迈向无偏随机不确定性估计的一步
本研究探讨了在计算机视觉任务中, 使用贝叶斯深度学习模型对本质和表观不确定性进行建模的影响， 并提出了一种新的深度学习框架，将输入相关的本质不确定性与表观不确定性相结合。 我们还提出了一种新的损失函数，可解释为学习的衰减，将其应用于像素级语义分割和深度回归任务中，使得模型更加鲁棒并取得新的最先进的结果。
Mar, 2017
本文提出了一种基于深度神经网络单模型的aleatoric和epistemic不确定性估计方法，分别为Simultaneous Quantile Regression（SQR）和Orthonormal Certificates（OCs），这些方法无需集成或重新训练深层模型就能达到竞争性能。
Nov, 2018
本文研究比较了在一个物理系统的背景下，深度学习算法的不确定性量化方法，包括贝叶斯神经网络，Concrete Dropout和Deep Ensembles，并探讨了它们的优缺点，结果为使用和解释不确定性量化方法提出了一些建议。
Apr, 2020
本研究通过使用BraTS挑战数据集，研究了分别使用测试时蒙蔽和增强时蒙蔽方法测量深度学习模型输出中不确定性的差异性，结果表明两种不确定性类别在大小和空间模式上有很大的差异，并讨论了在各种应用中这些差异的影响。
Mar, 2022
本研究表明，显式地考虑 aleatoric uncertainty 可显著改善贝叶斯神经网络的性能，其中使用 Dirichlet observation model 可以匹配或超过 posterior tempering 的性能，无需 tempering。
Mar, 2022
研究神经网络的不确定性问题，提出了一种新的不确定性量化方法，能够区分aleatoric和epistemic uncertainties，实验证明Ensembles可以提供整体性最好的解决方案，同时推荐采样softmax函数的超参数N大于100。
Apr, 2022
探讨深度神经网络架构与训练机制与其相应的选择性预测和不确定性估计性能的关系，并在484个预训练的深度Imagenet分类器中进行了全面的选择性预测和不确定性估计性能研究，发现ViT架构在不确定性估计性能方面表现最优。
Jun, 2022
预测不确定性估计是一个具有挑战性的问题，阻碍了深度神经网络在安全关键应用中作为子系统的使用。我们通过将不确定性传播视为非线性优化问题，采用因子图的方法，观察到在大部分实验中（包括三个数据集和两种神经网络架构），相较于以前的工作，在性能方面取得了显著的提升。我们的实现平衡了采样和分析传播技术的好处，这在实现性能提升方面起到了关键作用。
Dec, 2023
本研究针对不确定性量化（UQ）深度学习方法中随机不确定性评估的质量进行了系统比较，填补了当前科学研究中该领域的空白。通过比较深度集成（DE）和深度证据回归（DER）两种技术，我们发现随机不确定性与注入噪声水平相符，但在高噪声及高维度设置中，预测的不确定性存在显著误校准。这一发现表明针对这些方法的后期校准研究极具价值，尤其是在处理高噪声和高维数据时。
Nov, 2024