ECCVFeb, 2021

参数化温度缩放以提升 事后不确定性校准的表达能力

PDF
TL;DR本文提出了一种新的参数化温度缩放（Parametrized Temperature Scaling, PTS）方法，以解决深度神经网络预测不确定性校准问题。作者发现，标准的后处理校准器受限于其内在表达能力，为此他们基于神经网络计算预测特定的参数化温度，并在大量的实验中证明了这种方法比现有算法更为准确和有效。
发现论文，激发创造
  • 基于 bin 的温度缩放（BTS）：通过简单的缩放技术提高置信度校准性能

    本研究采用温度缩放方法构建精细的分组缩放以及采用验证样本增强方法，取得了各种深度卷积神经网络模型在多个数据集上的一致且优异的校准表现。

    Aug, 2019

  • 温度缩放校准深度神经网络的实用方法

    研究了用于深度神经网络的置信度校准方法 Temperature Scaling（TS），发现在验证集规模较小或者包含噪声标记的情况下，其效果不佳，同时也不能同时兼顾高准确性和低准确性的网络，提出了一种新方法 Attended Temperature Scaling（ATS），在保留 TS 优点的同时提高了校准的鲁棒性，并在皮肤病检测应用上进行了对比分析。

    Oct, 2018

  • 面向领域自适应和子群特定的级联温度回归用于外域校准

    通过元集合级联温度回归方法，本文提出了一种新颖的事后校准方法，通过对验证集上的数据增强模拟不同领域的转变，为不同的测试集定制细粒度的缩放函数，捕捉多样化的不确定性，并通过回归网络学习得到类别特定和置信度特定的缩放，实现元集合之间的校准。通过在 MNIST、CIFAR-10 和 TinyImageNet 上进行广泛的实验证明了该方法的有效性。

    Feb, 2024

  • 基于样式和内容信息的一致性引导温度调整在领域外校准中的应用

    在面对领域转移时，传统的神经网络鲁棒性研究主要关注提高模型准确性，而忽视了可靠的人工智能系统对校准性能的需求。本文提出了一种新的温度调节策略，基于样本一致性在风格和内容上的考量来提高多领域环境下的校准性能，实验证明在各种数据集上，我们的策略在不影响准确性的情况下构建出卓越的校准性能，可以直接应用于各种可信赖的人工智能系统。

    Feb, 2024

  • 置信度校准对符合性预测是否有帮助？

    该研究论文研究了适用于高概率包含真实标签的预测集的不确定性量化技术 - 保形预测。通过实验证明，使用事后校准方法和较小的温度得到的预测集有改进校准，而事后校准方法和较大的温度得到的预测集有改进保形预测性能。论文提出了一种新的 $ extbf {保形温度缩放}$（ConfTS）方法，通过阈值和非规范得分之间的差距调整目标，使 ConfTS 的新目标朝向满足 $ extit {边际覆盖}$ 的最优集合优化温度值。实验表明我们的方法能够有效改进广泛使用的保形预测方法。

    Feb, 2024

  • 针对领域偏移场景的后验不确定性校准

    本文探讨了深度神经网络中不确定性校准问题，并提出了一种针对域偏移的后处理校准方法，其通过对验证集的样本进行扰动，可大幅提高模型的校准性能。

    Dec, 2020

  • 针对分布偏移的天气预报改进的稳健校准

    通过使用专家混合技术和计算机视觉领域的先进数据增强技术，结合对预测不确定性的稳健后期校准，我们可以在表格数据的深度神经网络中实现比提升树模型更准确和更好校准的结果，从而改进领域外天气预测和不确定性估计。

    Jan, 2024

  • 通过随机温度缩放提高人脸识别模型的训练和推理效果

    通过概率视角和随机温度缩放的统一框架，提出一种可靠的脸部识别算法，可用于不确定、低质量和甚至是分布外的图像检测，具有较高的准确性和稳定性。

    Dec, 2022

  • 超越温度缩放：使用狄利克雷校准获得良好校准的多类概率

    我们提出了一种原生的多类别校准方法，适用于来自任何模型类的分类器，来源于狄利克雷分布并推广了来自二元分类的贝塔校准方法。“通过实验，证明改进了概率预测。

    Oct, 2019

  • 基于温度缩放的 Dropout 变分推断模型的良好校准的不确定性

    本文提出使用温度缩放法校准模型不确定性，进而减少不确定性的误差，通过对 CNN 架构的实验结果表明，该方法有效地减小了 UCE，提高了模型可靠性并不影响模型的准确性。

    Sep, 2019