Dec, 2020

通过准确度与不确定性优化来改善模型校准

PDF
TL;DR优化深度神经网络中的不确定性估计是安全关键应用中的一个重要问题。本文提出了利用准确度与不确定性之间的关系进行优化的方法，通过可微的 loss 函数来实现模型的不确定性校准，结果显示比现有的方法在大规模图像分类任务中表现的更好
deep neural networksuncertainty calibrationoptimization methodaccuracypost-hoc uncertainty calibration
发现论文，激发创造
  • 基于误差对齐不确定性优化的可靠多模态轨迹预测

    通过提出基于误差对齐的不确定性优化方法和引入可训练的损失函数来估算深度神经网络的不确定性，以取得与模型误差相关性强的不确定性预测。该方法适用于连续结构化预测和回归任务，并在包括大规模车辆运动预测任务的多个数据集上进行评估，通过 Pearson 相关系数表明我们的方法提高了平均位移误差和不确定性与模型误差之间的相关性。

    Dec, 2022

  • 医学成像分类神经网络的改进可训练校准方法

    本文提出了一种新的校准方法，旨在提高神经网络在医学领域图像分类任务中的不确定性量化能力，该方法基于期望校准误差作为量化神经网络不确定性的公共度量，可以作为辅助损失项轻松地集成到任何分类任务中，从而显著降低分类误差。

    Sep, 2020

  • 重新审视不确定性估计的评估及其在探索模型复杂度 - 不确定性平衡中的应用

    本研究针对神经网络预测的不确定性准确度进行研究，提出了针对不同使用场景下的新度量标准，探讨了模型复杂度与不确定度准确度之间的权衡关系，并通过实验验证了新度量标准的有效性和一些有趣的趋势。

    Mar, 2019

  • 重新审视现代神经网络的校准

    本文研究了神经网络模型的预测不确定性及其校准问题，并发现不使用卷积层的最新模型的校准性能最好，模型大小和预训练量并不能完全解释这些差异，表明模型架构是影响校准性能的主要因素。

    Jun, 2021

  • 使用校准回归的深度学习准确不确定性

    本文探讨贝叶斯方法在不确定性问题上的推理方法，提出一种简单有效的校准程序，可以保证在足够的数据下，任何回归算法都能够产生准确的校准不确定性估计，并应用于贝叶斯线性回归、前向和递归神经网络中，能够稳定输出准确的区间预测，并提高时间序列预测和基于模型的强化学习性能。

    Jul, 2018

  • 回归任务中的不确定性预测评估和校准

    本文提出了一种新的针对回归任务中不确定性预测校准的方法和评估方法，并通过对合成问题和对 COCO 和 KITTI 数据集的物体检测边界框回归任务的实验验证，展示出基于直方图的聚类方法和基于缩放的校准方法的效果相当好。

    May, 2019

  • 深度学习模型不确定性的校准

    本文提出了一种基于概率贝叶斯方法的神经网络预测置信度校准方案，最大化置信度期望效用，用最大置信度校准误差度量预测的置信度和错误之间的关系，并在 COVID-19 诊断中测试取得了显著的效果。

    Jun, 2022

  • 深度学习中的一致置信现象及其对校准的影响

    本文研究了深度神经网络模型校准方面的现有问题，并发现这类模型存在大量 “几乎确定” 置信度，导致常常过于自信。同时，文章提出可采用 Mixup 数据增强技术中的修改损失函数的方法来解决此类问题。

    Jun, 2023

  • 评估目标检测中的不确定性校准的理论和实践框架

    本研究提出了一个理论和实践框架，用于评估不确定性校准的对象检测系统，通过一系列的实验表明了所提出的不确定性校准度量的稳健性。

    Sep, 2023

  • 目标定位任务中的不确定性校准

    应用于自动驾驶和手术机器人等许多安全关键应用中，从对象检测模块获取预测不确定性以帮助支持安全决策是可取的。本文中我们介绍了一种方法用于解决单个对象定位任务的边界框的不确定性问题。我们使用现有技术来校准回归模型，实验表明所得出的校准模型得到了更可靠的不确定性估计。

    Nov, 2018