AAAIDec, 2020

用快速对抗校准实现深度神经网络中值得信赖的预测

PDF
TL;DR为了让实际应用的人工智能系统更加被广泛认知，模型的可信度至关重要。文章提出了一种新的训练策略，结合熵鼓励损失项和对抗校准损失项，以提高样本在领域世界偏移下的校准性和适应性。文章在不同的数据模式、数据集和网络架构上进行了全面的评估，结果显示该方法明显高于现有的最先进方法，应用于领域漂移下预测方面具有技术上的可信度。
ai systemspredictive modelsuncertainty-awarenesswell-calibrateddomain shift
发现论文，激发创造
  • 针对领域偏移场景的后验不确定性校准

    本文探讨了深度神经网络中不确定性校准问题，并提出了一种针对域偏移的后处理校准方法，其通过对验证集的样本进行扰动，可大幅提高模型的校准性能。

    Dec, 2020

  • 评估数据集偏移下模型预测不确定性的可信度

    以大量分类问题为基础，对现有现代机器学习方法中不同的贝叶斯和非贝叶斯概率量化预测不确定性的方法进行了评估，发现一些基于模型边缘化的方法在广泛的任务领域内表现出令人惊讶的强大效果。

    Jun, 2019

  • 深度学习中的一致置信现象及其对校准的影响

    本文研究了深度神经网络模型校准方面的现有问题，并发现这类模型存在大量 “几乎确定” 置信度，导致常常过于自信。同时，文章提出可采用 Mixup 数据增强技术中的修改损失函数的方法来解决此类问题。

    Jun, 2023

  • 使用深度集成实现简单且可扩展的预测不确定性估计

    本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

    Dec, 2016

  • 深度证据回归

    本文提出了一种新方法，通过在原始高斯似然函数上放置证据先验，训练神经网络 (NNs) 以估计连续目标及其相关证据，以学习 aleatoric 和 epistemic 不确定性。在多个基准测试中，本方法展示了学习良好校准的不确定度测量，可扩展到复杂的计算机视觉任务，并对对抗性和 OOD 测试样本具有鲁棒性。

    Oct, 2019

  • 网络校准的置信度和确定性的多类别对齐

    我们提出了一种基于多类对齐预测均值置信度和预测确定度（MACC）的新的训练时校准方法，通过鼓励模型在预 softmax 分布中提供低（或高）扩散，从而达到了领域内和领域外预测的最先进校准性能。

    Sep, 2023

  • 针对分布偏移的天气预报改进的稳健校准

    通过使用专家混合技术和计算机视觉领域的先进数据增强技术，结合对预测不确定性的稳健后期校准，我们可以在表格数据的深度神经网络中实现比提升树模型更准确和更好校准的结果，从而改进领域外天气预测和不确定性估计。

    Jan, 2024

  • 深度神经网络中攻击领域外不确定性估计

    本文研究了基于深度神经网络的不确定性估计算法的鲁棒性，并提出了一种敌对攻击方法，证明了这些算法对于出域数据的不确定性估计容易受到攻击。在各种基准图像数据集上进行的大量实验结果表明，最先进方法所估计的不确定性很容易被我们的攻击所破坏。

    Oct, 2022

  • 领域自适应目标检测：自训练与对抗学习之间的平衡

    利用模型的预测不确定性在领域迁移中实现对抗特征对齐和类别级对齐之间的平衡，从而在各种适应场景中超越现有的最先进方法。

    Nov, 2023

  • 基于可验证对抗性鲁棒性的贝叶斯推断

    通过贝叶斯学习的视角考虑深度神经网络的对抗训练，并提出了一种具有可证明保证的贝叶斯神经网络（BNN）的对抗训练的原则性框架。该方法可在 MNIST、FashionMNIST 和 CIFAR-10 上训练出可证明鲁棒性的模型，并用于不确定性校准。这是第一次直接训练可证明的 BNN，可促进在安全关键应用中的部署。

    Feb, 2021