该论文可视化和量化基于梯度的神经网络后续可视化解释的预测不确定性，指出不确定性降低了解释的可信度，提出了一种插件方法以可视化和量化任何基于梯度的解释技术剩余的预测不确定性，并通过两个数据集、四种解释技术和六种神经网络架构对提出的观察进行了支持。

Jun, 2024

在本文中，我们提出了用于不确定性解释方法的合理性检查方法，其中定义了用于不确定性解释的权重和数据随机化测试，可以快速测试不确定性和解释方法的组合。我们在 CIFAR10 和 California Housing 数据集上进行了实验证明了这些测试的有效性，并注意到 Ensembles 似乎始终通过 Guided Backpropagation、Integrated Gradients 和 LIME 解释这两个测试。

Mar, 2024

本文提出了一种基于反向传播梯度的神经网络不确定性度量方法，该方法可以有效地检测神经网络模型的不确定性，包括判断模型是否遇到了未知的输入，具有较高的检测准确性。

Aug, 2020

提出了一种新的框架，它可以将任意的深度学习神经网络解释方法转换为基于贝叶斯神经网络的解释方法，并内置建模不确定性的方式来量化解释的不确定性，从而确立与模型解释相关的不确定性，并在各种定量和定性实验中证明了该方法的有效性和实用性。

Jun, 2020

提出了可解释和可操作的贝叶斯深度学习方法，不仅能够执行准确的不确定性量化，而且还能解释不确定性，识别其源，并提出减少不确定性影响的策略。

Apr, 2023

本研究针对神经网络预测的不确定性准确度进行研究，提出了针对不同使用场景下的新度量标准，探讨了模型复杂度与不确定度准确度之间的权衡关系，并通过实验验证了新度量标准的有效性和一些有趣的趋势。

Mar, 2019

神经网络模型在科学机器学习任务中的应用近年来已大量增加。尤其是，在建模具有时空复杂性的过程方面，神经网络模型表现出色。然而，这些高度参数化的模型在产生与感兴趣的区域保持定量化误差界限方面引起了怀疑。因此，有必要寻找适用于神经网络的不确定性量化方法。本研究对神经网络对复杂时空过程进行了参数不确定性量化的比较，采用了哈密顿蒙特卡洛和 Stein 变分梯度下降及其投影变体。具体而言，我们将这些方法应用于用递归神经网络和神经常微分方程模型建模的发展系统的图卷积神经网络模型。我们展示了 Stein 变分推断是复杂神经网络模型的可行替代方法。对于我们的示例，与哈密顿蒙特卡洛相比，Stein 变分推断在时间上给出了类似的不确定性描述，尽管方差普遍更大。投影 Stein 变分梯度下降也产生了与非投影对应的类似的不确定性描述，但是在神经网络预测的稳定性和复杂的似然函数空间中卷积产生了活动权重空间的大幅减少与困扰。

Feb, 2024

我们介绍了 Quantified Uncertainty Counterfactual Explanations (QUCE) 方法，以减轻路径不确定性，不仅在提供解释时量化不确定性，而且生成更加确定的反事实例子。

Feb, 2024

通过级联深度学习模型在医学影像流水线中传播不确定性，我们提出了一种建立可解释的神经网络的不确定性估计方法，并展示了其在重建脑和膝盖磁共振图像以及预测定量信息方面的效用。

Sep, 2023

基于方差的方法扩展到分类问题中，量化分类的不确定性，实验结果显示这种方法在主动领域适应中与基于熵的方法的准确性相似，并提供了关于类别间不确定性和相关性的信息。

Nov, 2023