证据深度学习方法是否能真实地表示认知不确定性？

Feb, 2024

证据深度学习方法是否能真实地表示认知不确定性？

Is Epistemic Uncertainty Faithfully Represented by Evidential Deep Learning Methods?

Mira Jürgens, Nis Meinert, Viktor Bengs, Eyke Hüllermeier, Willem Waegeman

TL;DR可信的机器学习系统不仅应返回准确的预测结果，还应提供可靠的不确定性表示。贝叶斯方法通常用于量化生成论和认知性不确定性，但近年来，备选方法，如证据深度学习方法，已变得流行。这篇论文提出了证据深度学习的新理论洞见，强调了优化二阶损失函数和解释由此得出的认知性不确定度度量的困难。通过一个系统的实验设置，涵盖了分类，回归和计数的多种方法，对二阶损失最小化中的确认性和收敛性问题，以及认知不确定性度量的相对（而不是绝对）性质提供了新的见解。

Abstract

trustworthy ml systems should not only return accurate predictions, but also a reliable representation of their uncertainty. bayesian methods are commonly used to quantify both aleatoric and epistemic uncertainty

trustworthy ml systems bayesian methods evidential deep learning methods second-order loss minimization epistemic uncertainty measures

发现论文，激发创造

证据深度学习：提高地球系统科学应用的预测不确定性估计

可靠和实用的地球系统科学建模领域中，证据深度学习是一种有前途的方法，它能够准确量化预测不确定性，包括预测方差和模型不确定性，还可以通过敏感性分析来解释模型的预测结果。

Sep, 2023

基于一种狄利克雷分布混合的改进证据深度学习

该论文通过混合狄利克雷分布的变分推断来建模一致的目标分布，并通过学习得到的元分布模型提取目标模型中的学到的不确定性。实验证明我们提出的方法在各种基于不确定性的后续任务中具有优越性，并展示了学到的认知不确定性的一致性和不一致性带来的实际影响。

Feb, 2024

深度证据学习的剂量预测

在放射治疗剂量预测领域，我们应用了一种名为深度证据学习的不确定性量化框架，通过使用 Open Knowledge-Based Planning Challenge 数据集的医学影像，我们发现该模型可以有效地产生与预测误差相关的不确定性估计，在网络训练完成后仅经过重新构建原始损失函数以实现稳定实现。实验结果表明，深度证据学习相对于 Monte-Carlo Dropout 和 Deep Ensemble 方法，能够更线性地根据不确定性阈值变化的中位误差，与模型误差均匀校准的敏感性。同时，我们发现对于加入高斯噪声的 CT 强度，与表征数据噪声的 aleatoric 不确定性表现出更显著的分布变化。总的来说，我们的研究结果表明深度证据学习是一种有前景的方法，可以为放射治疗剂量预测的深度学习模型提供统计稳健性，我们还展示了如何使用这种模型构建预测的剂量体积直方图的置信区间。

Apr, 2024

认知深度学习

该论文介绍了一种基于随机集合解释置信度函数的认知深度学习概念，提出了一种新的随机集合卷积神经网络用于分类，并通过实验表明该认知方法在估计不确定性方面比传统方法具有更好的性能。

Jun, 2022

评估可扩展的贝叶斯深度学习方法在稳健计算机视觉中的应用

该论文提出了一种深度学习可扩展的确定性和不确定性评估框架，并对两种最先进的可扩展方法进行了比较，即集成和 MC-dropout，结果表明集成方法提供更可靠和实用的不确定性估计。

Jun, 2019

基于 Fisher 信息的证据深度学习的不确定性估计

提出了一种基于 Fisher Information-based 的 Evidential Deep Learning 方法，该方法通过测量样本携带的信息量动态地重新加权目标损失项，使网络更专注于不确定类别的表示学习，在多个数据不确定性评估任务中具有更好的性能表现，特别是在更具挑战性的 few-shot 分类环境下。

Mar, 2023

贝叶斯深度学习在计算机视觉中需要哪些不确定性？

本研究探讨了在计算机视觉任务中，使用贝叶斯深度学习模型对本质和表观不确定性进行建模的影响，并提出了一种新的深度学习框架，将输入相关的本质不确定性与表观不确定性相结合。我们还提出了一种新的损失函数，可解释为学习的衰减，将其应用于像素级语义分割和深度回归任务中，使得模型更加鲁棒并取得新的最先进的结果。

Mar, 2017

利用证据理论的深度学习进行分类不确定性量化

通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能，我们提出一种与贝叶斯神经网络正交的方法，该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。

Jun, 2018

证据深度学习中的不确定性知识

本文揭示了 Evidential Deep Learning（EDL）中由不确定性值产生的证据信号的存在，并通过理论和实证研究证明了 EDL 的不确定性与误分类偏差之间的关联，从而揭示出 EDL 对 loss functions 的耦合情况。

Oct, 2023

深层证据学习用于贝叶斯分位数回归

该论文提出了一种基于证据学习的深度贝叶斯分位回归模型，能够在没有高斯分布假设的情况下估计连续目标分布的分位数，同时捕捉不确定性和提高模型的可计算性和可扩展性。

Aug, 2023