决策的不确定性推理与量化综述:信念理论遇上深度学习
该研究综述了机器学习中不确定性的来源、分类和度量方法,并讨论了不确定性对决策过程的影响。重点关注深度学习领域,提供了广泛范围的不确定性讨论和深度学习中的不确定性量化方法的最新综述。
Jun, 2024
该综述回顾了现有的用于量化深度学习模型预测不确定性的方法,并着重关注了医学图像分析中特有的挑战、评估方案以及不确定性量化在医疗领域中的开放性挑战。
Oct, 2022
本文旨在研究如何衡量深度神经网络中不同的不确定性因素,进一步探究利用这些因素更有效地解决不同决策问题的方法。其中,作者提出了一个一般学习框架来定量不同根本原因导致的多种不确定性,并发现在对于深度神经网络的分类及早期时间点的事件检测中,对于实现最佳效果的不确定性因素分别为矛盾和真空。此外,本文还提出了一个改进 SSL 算法的框架,以抵御 OOD 对象的重要影响。
Apr, 2023
通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能,我们提出一种与贝叶斯神经网络正交的方法,该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。
Jun, 2018
本研究回顾了当前深度学习中不确定性量化(UQ)方法的最新进展,其应用于计算机视觉,医学图像分析,自然语言处理等领域,并调查了这些方法在强化学习中的应用。接着,我们概述了 UQ 方法的几个重要应用,并简要概述了 UQ 方法面临的基本研究挑战,讨论了未来在此领域的研究方向。
Nov, 2020
本文研究了自主车辆在安全关键任务中使用神经网络时,面临的不可避免的误差问题,并给出了一些用于评估这种不确定性的方法和指标,比较了各种不确定性量化方法在特定 AV 任务和类型的优劣。
Jun, 2020
可信的机器学习系统不仅应返回准确的预测结果,还应提供可靠的不确定性表示。贝叶斯方法通常用于量化生成论和认知性不确定性,但近年来,备选方法,如证据深度学习方法,已变得流行。这篇论文提出了证据深度学习的新理论洞见,强调了优化二阶损失函数和解释由此得出的认知性不确定度度量的困难。通过一个系统的实验设置,涵盖了分类,回归和计数的多种方法,对二阶损失最小化中的确认性和收敛性问题,以及认知不确定性度量的相对(而不是绝对)性质提供了新的见解。
Feb, 2024
基于方差的方法扩展到分类问题中,量化分类的不确定性,实验结果显示这种方法在主动领域适应中与基于熵的方法的准确性相似,并提供了关于类别间不确定性和相关性的信息。
Nov, 2023
本文对神经网络不确定性估计进行了全面的概述和介绍,包括模型不确定性和数据不确定性,并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外,还讨论了不确定性方面的实际应用中存在的挑战和限制,以及未来工作的展望。
Jul, 2021
深度神经网络在风险决策中的应用受到广泛关注,已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架,用于量化深度神经网络模型的预测不确定性,特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究,结果表明在一定风险水平下,我们能够识别出风险敏感的情况,这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比,我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。
Oct, 2023