基于一种狄利克雷分布混合的改进证据深度学习
本文揭示了 Evidential Deep Learning(EDL)中由不确定性值产生的证据信号的存在,并通过理论和实证研究证明了 EDL 的不确定性与误分类偏差之间的关联,从而揭示出 EDL 对 loss functions 的耦合情况。
Oct, 2023
通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能,我们提出一种与贝叶斯神经网络正交的方法,该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。
Jun, 2018
提出了一种基于 Fisher Information-based 的 Evidential Deep Learning 方法,该方法通过测量样本携带的信息量动态地重新加权目标损失项,使网络更专注于不确定类别的表示学习,在多个数据不确定性评估任务中具有更好的性能表现,特别是在更具挑战性的 few-shot 分类环境下。
Mar, 2023
可靠和实用的地球系统科学建模领域中,证据深度学习是一种有前途的方法,它能够准确量化预测不确定性,包括预测方差和模型不确定性,还可以通过敏感性分析来解释模型的预测结果。
Sep, 2023
可信的机器学习系统不仅应返回准确的预测结果,还应提供可靠的不确定性表示。贝叶斯方法通常用于量化生成论和认知性不确定性,但近年来,备选方法,如证据深度学习方法,已变得流行。这篇论文提出了证据深度学习的新理论洞见,强调了优化二阶损失函数和解释由此得出的认知性不确定度度量的困难。通过一个系统的实验设置,涵盖了分类,回归和计数的多种方法,对二阶损失最小化中的确认性和收敛性问题,以及认知不确定性度量的相对(而不是绝对)性质提供了新的见解。
Feb, 2024
在放射治疗剂量预测领域,我们应用了一种名为深度证据学习的不确定性量化框架,通过使用 Open Knowledge-Based Planning Challenge 数据集的医学影像,我们发现该模型可以有效地产生与预测误差相关的不确定性估计,在网络训练完成后仅经过重新构建原始损失函数以实现稳定实现。实验结果表明,深度证据学习相对于 Monte-Carlo Dropout 和 Deep Ensemble 方法,能够更线性地根据不确定性阈值变化的中位误差,与模型误差均匀校准的敏感性。同时,我们发现对于加入高斯噪声的 CT 强度,与表征数据噪声的 aleatoric 不确定性表现出更显著的分布变化。总的来说,我们的研究结果表明深度证据学习是一种有前景的方法,可以为放射治疗剂量预测的深度学习模型提供统计稳健性,我们还展示了如何使用这种模型构建预测的剂量体积直方图的置信区间。
Apr, 2024
该论文提出了一种基于证据学习的深度贝叶斯分位回归模型,能够在没有高斯分布假设的情况下估计连续目标分布的分位数,同时捕捉不确定性和提高模型的可计算性和可扩展性。
Aug, 2023
该研究论文提出了一种将证据深度学习方法与持续学习框架相结合的方法,能够同时进行增量对象分类和越界检测,在 CIFAR-100 数据集上的实验结果显示,该方法在对象分类和越界检测方面表现出色。
Sep, 2023
本研究考察了在大规模自然语言序列到序列数据中应用 Ensemble Distribution Distillation (EDD)来压缩昂贵的集成模型的优越性能为成本较低的单一模型的有效性,既能够分离知识(认识不一致性)和数据(随机数据)不确定性,还能解决大词汇量数据的复杂性,并在非分布式检测中表现出色。
May, 2023
本文提出了一种新方法,通过在原始高斯似然函数上放置证据先验,训练神经网络 (NNs) 以估计连续目标及其相关证据,以学习 aleatoric 和 epistemic 不确定性。在多个基准测试中,本方法展示了学习良好校准的不确定度测量,可扩展到复杂的计算机视觉任务,并对对抗性和 OOD 测试样本具有鲁棒性。
Oct, 2019