本研究探讨了在计算机视觉任务中, 使用贝叶斯深度学习模型对本质和表观不确定性进行建模的影响， 并提出了一种新的深度学习框架，将输入相关的本质不确定性与表观不确定性相结合。 我们还提出了一种新的损失函数，可解释为学习的衰减，将其应用于像素级语义分割和深度回归任务中，使得模型更加鲁棒并取得新的最先进的结果。

Mar, 2017

本文提出了一种基于深度神经网络单模型的aleatoric和epistemic不确定性估计方法，分别为Simultaneous Quantile Regression（SQR）和Orthonormal Certificates（OCs），这些方法无需集成或重新训练深层模型就能达到竞争性能。

Nov, 2018

提供了一种比使用蒙特卡洛采样估计神经网络的认识不确定性的方法更加高效的近似方法，该方法适用于大规模视觉任务。

Aug, 2019

本文介绍了一种能够辅助任何传统神经网络，包括大型预训练模型，能够用较少的计算量来预测不确定性的架构——epinet。使用epinet，传统神经网络在预测标签上的表现优于包含数百个或更多粒子的非常大的许多集合，而且使用的计算资源和数据也大大降低了。

Jul, 2021

研究神经网络的不确定性问题，提出了一种新的不确定性量化方法，能够区分aleatoric和epistemic uncertainties，实验证明Ensembles可以提供整体性最好的解决方案，同时推荐采样softmax函数的超参数N大于100。

Apr, 2022

该论文介绍了一种基于随机集合解释置信度函数的认知深度学习概念，提出了一种新的随机集合卷积神经网络用于分类，并通过实验表明该认知方法在估计不确定性方面比传统方法具有更好的性能。

Jun, 2022

本文提出了一种基于随机集的深度学习方法RS-CNN，通过预测置信函数而非概率向量，估计模型对于其预测的正确程度和可能出现的误差，从而更好地处理机器学习领域中的不确定性和对抗性攻击。

Jul, 2023

可信的机器学习系统不仅应返回准确的预测结果，还应提供可靠的不确定性表示。贝叶斯方法通常用于量化生成论和认知性不确定性，但近年来，备选方法，如证据深度学习方法，已变得流行。这篇论文提出了证据深度学习的新理论洞见，强调了优化二阶损失函数和解释由此得出的认知性不确定度度量的困难。通过一个系统的实验设置，涵盖了分类，回归和计数的多种方法，对二阶损失最小化中的确认性和收敛性问题，以及认知不确定性度量的相对（而不是绝对）性质提供了新的见解。

Feb, 2024

基于实验研究，证据深度网络产生的认知不确定性在某些情况下违反预期，这引发了对其准确性的质疑。在此基础上，我们提出了一种深度集成的正规化函数，称为冲突损失，以满足认知不确定性的两个要求，并且不损害深度集成的性能或校准性。

Jul, 2024

本研究探讨了在深度学习模型中，随着模型复杂性增加，认识不确定性崩溃的现象，这与更大的模型提供更好的不确定性量化的假设相悖。我们提出大模型内部的隐性集合现象是导致这种崩溃的原因，并通过实验证明了这一现象在多种架构中的存在，最终为不确定性估计提供了理论依据和新的视角。

Sep, 2024