本文提出了一种新方法,通过在原始高斯似然函数上放置证据先验,训练神经网络 (NNs) 以估计连续目标及其相关证据,以学习 aleatoric 和 epistemic 不确定性。在多个基准测试中,本方法展示了学习良好校准的不确定度测量,可扩展到复杂的计算机视觉任务,并对对抗性和 OOD 测试样本具有鲁棒性。
Oct, 2019
基于方差的方法扩展到分类问题中,量化分类的不确定性,实验结果显示这种方法在主动领域适应中与基于熵的方法的准确性相似,并提供了关于类别间不确定性和相关性的信息。
Nov, 2023
我们提出了一种新颖的统计方法,用于在无模型分布式强化学习中纳入不确定性感知,它涉及基于分位回归的深度 Q 网络。该算法称为 CEQR-DQN(Calibrated Evidential Quantile Regression in Deep Q Networks),旨在解决在随机环境中分别估计偶然性和认识性不确定性所面临的关键挑战。它将深度证据学习与基于符合推理原则的分位校准相结合,提供明确的、无需样本的全局不确定性计算,而不是基于简单差异的局部估计,从而克服了传统方法在计算和统计效率以及处理超出分布范围观察的局限性。用于一套小型 Atari 游戏(即 MinAtar)的测试中,CEQR-DQN 在得分和学习速度方面超越了类似的现有框架。它对严格评估不确定性的能力改进了探索策略,并可作为其他需要不确定性感知的算法的蓝图。
Feb, 2024
该论文通过混合狄利克雷分布的变分推断来建模一致的目标分布,并通过学习得到的元分布模型提取目标模型中的学到的不确定性。实验证明我们提出的方法在各种基于不确定性的后续任务中具有优越性,并展示了学到的认知不确定性的一致性和不一致性带来的实际影响。
基于鲁棒分位数回归和深度学习的方法,在关键特征异常值存在的情况下,提出了用于估计不确定性的方法,并在医学成像翻译任务中展示了其适用性。
Sep, 2023
通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能,我们提出一种与贝叶斯神经网络正交的方法,该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。
Jun, 2018
本文提出了一种基于深度神经网络单模型的 aleatoric 和 epistemic 不确定性估计方法,分别为 Simultaneous Quantile Regression(SQR)和 Orthonormal Certificates(OCs),这些方法无需集成或重新训练深层模型就能达到竞争性能。
Nov, 2018
可靠和实用的地球系统科学建模领域中,证据深度学习是一种有前途的方法,它能够准确量化预测不确定性,包括预测方差和模型不确定性,还可以通过敏感性分析来解释模型的预测结果。
可信的机器学习系统不仅应返回准确的预测结果,还应提供可靠的不确定性表示。贝叶斯方法通常用于量化生成论和认知性不确定性,但近年来,备选方法,如证据深度学习方法,已变得流行。这篇论文提出了证据深度学习的新理论洞见,强调了优化二阶损失函数和解释由此得出的认知性不确定度度量的困难。通过一个系统的实验设置,涵盖了分类,回归和计数的多种方法,对二阶损失最小化中的确认性和收敛性问题,以及认知不确定性度量的相对(而不是绝对)性质提供了新的见解。
该研究展示了一个离散 - 连续 Bayesian 深度学习模型,并使用高斯和对数正态分布来量化模型的不确定性,该模型可以更好地处理具有极度偏斜分布的数据。该模型为温室气体降尺度模型提供了不确定性评估,并在预测精度和不确定性校准方面表现出众。
Feb, 2018