深度学习的不确定性量化
深度神经网络在风险决策中的应用受到广泛关注，已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架，用于量化深度神经网络模型的预测不确定性，特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究，结果表明在一定风险水平下，我们能够识别出风险敏感的情况，这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比，我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。
Oct, 2023
本文对神经网络不确定性估计进行了全面的概述和介绍，包括模型不确定性和数据不确定性，并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外，还讨论了不确定性方面的实际应用中存在的挑战和限制，以及未来工作的展望。
Jul, 2021
本文介绍了一个包含不确定性建模、解法和评估的完整框架，用于量化神经网络中包括噪声、有限数据、超参数、过度参数化、优化和采样误差及模型错误等多源的误差和不确定性，特别关注向无限维函数空间中的偏微分方程和操作映射的学习，包括一个在原型问题上进行的广泛的比较研究。
Jan, 2022
提出了一种用基于贝叶斯信任网络和蒙特卡罗采样的方法来对神经网络进行不确定性估计，这个方法具有与神经网络结构和任务无关，不需要优化进程的更改，能够应用于已经训练好的结构，有效地提高了准确性。
Jul, 2019
本文旨在研究如何衡量深度神经网络中不同的不确定性因素，进一步探究利用这些因素更有效地解决不同决策问题的方法。其中，作者提出了一个一般学习框架来定量不同根本原因导致的多种不确定性，并发现在对于深度神经网络的分类及早期时间点的事件检测中，对于实现最佳效果的不确定性因素分别为矛盾和真空。此外，本文还提出了一个改进 SSL 算法的框架，以抵御 OOD 对象的重要影响。
Apr, 2023
本文研究比较了在一个物理系统的背景下，深度学习算法的不确定性量化方法，包括贝叶斯神经网络，Concrete Dropout 和 Deep Ensembles，并探讨了它们的优缺点，结果为使用和解释不确定性量化方法提出了一些建议。
Apr, 2020
本文研究了自主车辆在安全关键任务中使用神经网络时，面临的不可避免的误差问题，并给出了一些用于评估这种不确定性的方法和指标，比较了各种不确定性量化方法在特定 AV 任务和类型的优劣。
Jun, 2020
本文提出了一种新的算法，通过利用深度神经网络分类器中数据点的潜在空间表示来评估其预测的准确性，该方法可以检测出分布之外的数据点被不正确地预测，从而有助于自动检测异常值。
May, 2023
通过神经网络传播输入不确定性时，我们提出了一种同时能够估计输入、数据和模型不确定性的方法，结果表明这种输入不确定性的传播导致更稳定的决策边界，即使在大量输入噪声的情况下也是如此。
Jun, 2024