优化深度神经网络中的不确定性估计是安全关键应用中的一个重要问题。本文提出了利用准确度与不确定性之间的关系进行优化的方法，通过可微的 loss 函数来实现模型的不确定性校准，结果显示比现有的方法在大规模图像分类任务中表现的更好

Dec, 2020

本文探讨了深度神经网络中不确定性校准问题，并提出了一种针对域偏移的后处理校准方法，其通过对验证集的样本进行扰动，可大幅提高模型的校准性能。

Dec, 2020

本文介绍了Uncertainty Baselines，这是一个包括19个方法在9个任务上的高质量实现，以提供对不同方法进行比较的立即出发点，每个基线都是一个自包含的实验流水线，易于重用和扩展，同时提供模型检查点、实验输出和排行榜以比较结果。

Jun, 2021

本文对神经网络不确定性估计进行了全面的概述和介绍，包括模型不确定性和数据不确定性，并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外，还讨论了不确定性方面的实际应用中存在的挑战和限制，以及未来工作的展望。

Jul, 2021

本研究针对基于深度神经网络的分类器往往存在过度自信预测这一问题，提出了包含额外维度的K+1路softmax公式，利用基于能量的目标函数进行训练，能够更好地对开放世界不确定性建模，从而提高决策可靠性。

Jul, 2021

使用基于最近邻的密度感知校准方法，利用分类器的隐藏层作为不确定性相关信息的来源对深度学习模型进行校准，提高了对域漂移和离域数据的可靠性，并在保持良好域内预测不确定性估计的同时，提高了校准的鲁棒性。

Feb, 2023

深度神经模型校准在构建可靠的安全关键应用的人工智能系统中起着重要作用。本文回顾了最新的校准方法，并对它们进行了原理解析。

Aug, 2023

深度神经网络在各种机器学习任务中的应用越来越多，但随着这些模型复杂性的增加，尽管预测准确性得到了提高，但它们通常面临校准问题。我们的研究利用神经架构搜索（NAS）搜索空间，为深入探索校准特性提供了一个详尽的模型架构空间，并特别创建一个模型校准数据集，评估了117,702个唯一神经网络在常用的NATS-Bench搜索空间中的90个基于bin的校准度量和12个附加校准度量。同时，本研究探索了NAS中的校准问题，为进一步研究NAS校准提供了可能性。根据我们所了解，我们的研究代表了对校准特性进行的首次大规模调查，也是在NAS中对校准问题进行的首要研究。

Aug, 2023

我们提出了一种基于多类对齐预测均值置信度和预测确定度（MACC）的新的训练时校准方法，通过鼓励模型在预softmax分布中提供低（或高）扩散，从而达到了领域内和领域外预测的最先进校准性能。

Sep, 2023

本研究解决了深度学习模型在不确定性估计中普遍存在的误校准问题，提出了一种名为一致性校准（CC）的新方法。该方法基于模型在扰动输入下的一致性进行自校准，且无需额外的数据样本或标签信息，显著提升了计算效率。实验结果表明，CC在多个标准数据集和长尾数据集上均表现出色，展现出最佳性能。

Oct, 2024