Sep, 2019

基于温度缩放的 Dropout 变分推断模型的良好校准的不确定性

PDF
TL;DR本文提出使用温度缩放法校准模型不确定性，进而减少不确定性的误差，通过对 CNN 架构的实验结果表明，该方法有效地减小了 UCE，提高了模型可靠性并不影响模型的准确性。
发现论文，激发创造
  • 深度学习模型不确定性的校准

    本文提出了一种基于概率贝叶斯方法的神经网络预测置信度校准方案，最大化置信度期望效用，用最大置信度校准误差度量预测的置信度和错误之间的关系，并在 COVID-19 诊断中测试取得了显著的效果。

    Jun, 2022

  • 多域温度缩放的鲁棒校准

    本文提出了一种基于多个不同领域数据的系统校准模型 —— 多域温度缩放，用于处理分布变化，通过实验证明，该方法在处理相同的训练数据和测试数据的情况下表现出更好的鲁棒性和性能。

    Jun, 2022

  • 长尾识别的双通道温度缩放校准

    该研究论文提出了一种双分支温度缩放校准模型 (Dual-TS)，同时考虑了不同类别的温度参数的多样性和少数类别中稀有样本的温度参数的非通用性，并提出了新的校准评估度量 Esbin-ECE。实验证明，该模型在传统 ECE 和 Esbin-ECE 指标中均达到了最先进水平。

    Aug, 2023

  • 通过准确度与不确定性优化来改善模型校准

    优化深度神经网络中的不确定性估计是安全关键应用中的一个重要问题。本文提出了利用准确度与不确定性之间的关系进行优化的方法，通过可微的 loss 函数来实现模型的不确定性校准，结果显示比现有的方法在大规模图像分类任务中表现的更好

    Dec, 2020

  • 参数化温度缩放以提升 事后不确定性校准的表达能力

    本文提出了一种新的参数化温度缩放（Parametrized Temperature Scaling, PTS）方法，以解决深度神经网络预测不确定性校准问题。作者发现，标准的后处理校准器受限于其内在表达能力，为此他们基于神经网络计算预测特定的参数化温度，并在大量的实验中证明了这种方法比现有算法更为准确和有效。

    Feb, 2021

  • 通过随机温度缩放提高人脸识别模型的训练和推理效果

    通过概率视角和随机温度缩放的统一框架，提出一种可靠的脸部识别算法，可用于不确定、低质量和甚至是分布外的图像检测，具有较高的准确性和稳定性。

    Dec, 2022

  • 基于 bin 的温度缩放（BTS）：通过简单的缩放技术提高置信度校准性能

    本研究采用温度缩放方法构建精细的分组缩放以及采用验证样本增强方法，取得了各种深度卷积神经网络模型在多个数据集上的一致且优异的校准表现。

    Aug, 2019

  • 超越温度缩放：使用狄利克雷校准获得良好校准的多类概率

    我们提出了一种原生的多类别校准方法，适用于来自任何模型类的分类器，来源于狄利克雷分布并推广了来自二元分类的贝塔校准方法。“通过实验，证明改进了概率预测。

    Oct, 2019

  • 冷后验分布与随机不确定性

    本文探讨了后验温度的调整在贝叶斯神经网络中的作用以及先验的影响，研究发现，在高质量的分类数据集如 MNIST 或 CIFAR 中，经常使用的先验能够显著地高估标签的不确定性。研究在高斯过程回归中发现，任何正数的温度都对应于一个经过修改的先验下的有效后验，而调整后验温度直接类比于经验贝叶斯。当应用于分类任务时，调整先验并不直接等同于调整后验温度，但是降低后验温度可以得到更好地反映新增训练样本信息的模型。因此，虽然冷后验并不总是对应于精确的推理过程，但我们认为，它们可能更好地反映了我们真实的先验信念。

    Jul, 2020

  • 经过验证的不确定性校准

    本篇论文提出一种基于 Platti scaling 和 temperature scaling 的直方图分块校准法，用于计算模型校准误差，并使用气象学中的估算器来更加准确地估计校准误差。作者在多类别校准实验中将缔合法的校准误差降低了 35％。

    Sep, 2019