基于样式和内容信息的一致性引导温度调整在领域外校准中的应用

AAAIFeb, 2024

基于样式和内容信息的一致性引导温度调整在领域外校准中的应用

Consistency-Guided Temperature Scaling Using Style and Content Information for Out-of-Domain Calibration

Wonjeong Choi, Jungwuk Park, Dong-Jun Han, Younghyun Park, Jaekyun Moon

TL;DR在面对领域转移时，传统的神经网络鲁棒性研究主要关注提高模型准确性，而忽视了可靠的人工智能系统对校准性能的需求。本文提出了一种新的温度调节策略，基于样本一致性在风格和内容上的考量来提高多领域环境下的校准性能，实验证明在各种数据集上，我们的策略在不影响准确性的情况下构建出卓越的校准性能，可以直接应用于各种可信赖的人工智能系统。

Abstract

Research interests in the robustness of deep neural networks against domain shifts have been rapidly increasing in recent years. Most existing works, however, focus on improving the accuracy of the model, not the

robustness deep neural networks calibration performance temperature scaling consistency-guided temperature scaling

发现论文，激发创造

温度缩放校准深度神经网络的实用方法

研究了用于深度神经网络的置信度校准方法 Temperature Scaling（TS），发现在验证集规模较小或者包含噪声标记的情况下，其效果不佳，同时也不能同时兼顾高准确性和低准确性的网络，提出了一种新方法 Attended Temperature Scaling（ATS），在保留 TS 优点的同时提高了校准的鲁棒性，并在皮肤病检测应用上进行了对比分析。

Oct, 2018

面向领域自适应和子群特定的级联温度回归用于外域校准

通过元集合级联温度回归方法，本文提出了一种新颖的事后校准方法，通过对验证集上的数据增强模拟不同领域的转变，为不同的测试集定制细粒度的缩放函数，捕捉多样化的不确定性，并通过回归网络学习得到类别特定和置信度特定的缩放，实现元集合之间的校准。通过在 MNIST、CIFAR-10 和 TinyImageNet 上进行广泛的实验证明了该方法的有效性。

Feb, 2024

基于 bin 的温度缩放（BTS）：通过简单的缩放技术提高置信度校准性能

本研究采用温度缩放方法构建精细的分组缩放以及采用验证样本增强方法，取得了各种深度卷积神经网络模型在多个数据集上的一致且优异的校准表现。

Aug, 2019

参数化温度缩放以提升事后不确定性校准的表达能力

本文提出了一种新的参数化温度缩放（Parametrized Temperature Scaling, PTS）方法，以解决深度神经网络预测不确定性校准问题。作者发现，标准的后处理校准器受限于其内在表达能力，为此他们基于神经网络计算预测特定的参数化温度，并在大量的实验中证明了这种方法比现有算法更为准确和有效。

Feb, 2021

多域温度缩放的鲁棒校准

本文提出了一种基于多个不同领域数据的系统校准模型 —— 多域温度缩放，用于处理分布变化，通过实验证明，该方法在处理相同的训练数据和测试数据的情况下表现出更好的鲁棒性和性能。

Jun, 2022

通过随机温度缩放提高人脸识别模型的训练和推理效果

通过概率视角和随机温度缩放的统一框架，提出一种可靠的脸部识别算法，可用于不确定、低质量和甚至是分布外的图像检测，具有较高的准确性和稳定性。

Dec, 2022

置信度校准对符合性预测是否有帮助？

该研究论文研究了适用于高概率包含真实标签的预测集的不确定性量化技术 - 保形预测。通过实验证明，使用事后校准方法和较小的温度得到的预测集有改进校准，而事后校准方法和较大的温度得到的预测集有改进保形预测性能。论文提出了一种新的 $ extbf {保形温度缩放}$（ConfTS）方法，通过阈值和非规范得分之间的差距调整目标，使 ConfTS 的新目标朝向满足 $ extit {边际覆盖}$ 的最优集合优化温度值。实验表明我们的方法能够有效改进广泛使用的保形预测方法。

Feb, 2024

长尾视觉识别的类分布感知校准

本文提出了一种考虑类别分布的深度神经网络模型校准方法，针对高频类别过于自信的问题，通过使用类别频率信息来替换温度值或平滑标签，并结合蒸馏损失减少误校准。实验证明该方法在长尾数据集上提高了预测准确性和校准性能。

Sep, 2021

长尾识别的双通道温度缩放校准

该研究论文提出了一种双分支温度缩放校准模型 (Dual-TS)，同时考虑了不同类别的温度参数的多样性和少数类别中稀有样本的温度参数的非通用性，并提出了新的校准评估度量 Esbin-ECE。实验证明，该模型在传统 ECE 和 Esbin-ECE 指标中均达到了最先进水平。

Aug, 2023

DySTreSS: 自监督对比学习中的动态温度缩放

通过研究温度超参数，我们提出了一个基于余弦相似度的温度缩放函数，有效优化特征空间中样本的分布，并通过对余弦相似度空间中的均匀性和容忍度度量进行综合分析，展示了该方法在半监督学习中优于或与对比损失为基础的算法相当的性能，并为对比学习领域的未来研究奠定了基础。

Aug, 2023