CVPRApr, 2022

深入探讨随机误差与认知误差的分离

PDF
TL;DR研究神经网络的不确定性问题，提出了一种新的不确定性量化方法，能够区分 aleatoric 和 epistemic uncertainties，实验证明 Ensembles 可以提供整体性最好的解决方案，同时推荐采样 softmax 函数的超参数 N 大于 100。
neural networksuncertainty quantificationdisentangled uncertaintiesepistemic uncertaintyaleatoric uncertainty
发现论文，激发创造
  • 迈向无偏随机不确定性估计的一步

    该研究提出了一种新的数据不确定性估计方法，通过主动去噪处理观察数据，以更准确地近似实际数据不确定性。实验证明，与标准方法相比，我们提出的方法更接近实际数据不确定性。

    Dec, 2023

  • 基准测试不确定性分离：专用任务的专用不确定性

    通过对 ImageNet 上的多个任务进行综合评估，本文发现尽管有许多有前景的理论努力，实际上还没有实现解缠，同时揭示了哪些不确定性估计器在特定任务上表现出色，为从业者提供了见解，并指导未来研究朝向以任务为中心和解缠的不确定性估计方法。

    Feb, 2024

  • 表征代理校准及消除标注员和数据偏差的不确定性来源

    本文提出了一种简单的 Monte Carlo Dropout 算法，可以显式地量化神经网络输出的不确定性，利用此种不确定性可以解释模型复杂现象、如情感识别，此外也可以用于辨别主观标记样本和数据偏差的问题。

    Sep, 2019

  • 基于神经网络的语音增强中融入不确定性

    该研究通过在神经网络的语音信号增强过程中，将 aleatoric 和 epistemic 不确定性模型化，提出了一种模型不确定性建模的框架，并在不同数据集上验证了该方法的有效性。

    May, 2023

  • 评估可扩展的贝叶斯深度学习方法在稳健计算机视觉中的应用

    该论文提出了一种深度学习可扩展的确定性和不确定性评估框架，并对两种最先进的可扩展方法进行了比较，即集成和 MC-dropout，结果表明集成方法提供更可靠和实用的不确定性估计。

    Jun, 2019

  • 认识不确定性采样

    本文讨论了在 “不确定性采样” 策略的背景下，确立和不可归约不确定性的区别，提出了 “确立不确定性采样” 的概念，并使用一种具体的方法来衡量确立不确定性和偶发不确定性。实验表明，确立不确定性采样效果良好。

    Aug, 2019

  • 标签级表观和本体不确定性量化

    基于标签分解的不确定性量化方法，提高成本敏感决策并帮助理解不确定性来源，使用方差等非分类度量定义总体、属概性和认知不确定性，针对分类任务进行实证评估。

    Jun, 2024

  • 证据深度学习：提高地球系统科学应用的预测不确定性估计

    可靠和实用的地球系统科学建模领域中，证据深度学习是一种有前途的方法，它能够准确量化预测不确定性，包括预测方差和模型不确定性，还可以通过敏感性分析来解释模型的预测结果。

    Sep, 2023

  • 基于生成模型的不确定性感知深度分类器

    本篇研究提出了一种神经网络模型，该模型能够同时表达 aleatoric 和 epistemic 不确定性，区分特征空间的决策边界和 “out-of-distribution” 区域。在训练过程中，通过集成变分自编码器和生成对抗网络的方法生成了 “out-of-distribution” 样本。通过在多个数据集上进行实验，表明该方法提供了更好的不确定性估计，并且在识别对抗样本时表现出优异的表现。

    Jun, 2020

  • 对抗模型下不确定性的量化

    利用对抗模型量化不确定性提高估计认知不确定性的准确性，相较于现有方法，Quantification of Uncertainty with Adversarial Models 能够更好地捕捉深度学习模型中的认知不确定性。

    Jul, 2023