深度神经网络的广义不确定性：分类和应用
本文对神经网络不确定性估计进行了全面的概述和介绍，包括模型不确定性和数据不确定性，并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外，还讨论了不确定性方面的实际应用中存在的挑战和限制，以及未来工作的展望。
Jul, 2021
深度神经网络在风险决策中的应用受到广泛关注，已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架，用于量化深度神经网络模型的预测不确定性，特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究，结果表明在一定风险水平下，我们能够识别出风险敏感的情况，这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比，我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。
Oct, 2023
本文旨在研究如何衡量深度神经网络中不同的不确定性因素，进一步探究利用这些因素更有效地解决不同决策问题的方法。其中，作者提出了一个一般学习框架来定量不同根本原因导致的多种不确定性，并发现在对于深度神经网络的分类及早期时间点的事件检测中，对于实现最佳效果的不确定性因素分别为矛盾和真空。此外，本文还提出了一个改进 SSL 算法的框架，以抵御 OOD 对象的重要影响。
Apr, 2023
利用不同方法高效估计深度神经网络的预测不确定性和敏感性，并将其互动比较和对比，以应对可靠的不确定性感知模型在深度图像合成任务中产生信息丰富且质量多样的插图，进一步提高深度可视化模型的稳健性和可解释性，使其在以视觉分析为基础的各个科学领域得以实际应用和方便使用。
May, 2024
利用轻量级概率网络，将预测不确定性纳入灵敏度分析以及通过不确定性分解的新方法进行模型解释，最终提高了模型的鲁棒性和推广能力，并从输入域的不确定性解释预测不确定性，从而提供了验证和解释深度学习模型的新方法。
Oct, 2018
本研究回顾了当前深度学习中不确定性量化（UQ）方法的最新进展，其应用于计算机视觉，医学图像分析，自然语言处理等领域，并调查了这些方法在强化学习中的应用。接着，我们概述了 UQ 方法的几个重要应用，并简要概述了 UQ 方法面临的基本研究挑战，讨论了未来在此领域的研究方向。
Nov, 2020
提出了一种用基于贝叶斯信任网络和蒙特卡罗采样的方法来对神经网络进行不确定性估计，这个方法具有与神经网络结构和任务无关，不需要优化进程的更改，能够应用于已经训练好的结构，有效地提高了准确性。
Jul, 2019
通过对神经网络的深度进行概率推理，我们能够只需一次前向传播，就能估计模型的不确定性。在真实的回归和图像分类任务中，我们验证了这一方法的效果，并证明它能提供不确定度校准、对数据集变化的鲁棒性和与计算成本更高的基线准确度相当的预测结果。
Jun, 2020
通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能，我们提出一种与贝叶斯神经网络正交的方法，该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。
Jun, 2018