May, 2024

通过多个查询在闭源模型中进行不确定性估计的方法：只需旋转！

PDF
TL;DR我们提出了一种简单而有效的方法来估计闭源深度神经网络图像分类模型的不确定性。通过创建多个转换版本并使用它们来查询闭源模型的顶级预测，我们的方法能够在不确定性估计方面显著提高校准度。通过实证结果和直观的理论分析，我们阐明了自然转换优于高斯噪声的卓越性能背后的原因，并利用这些洞察力提出了一种进一步改善校准结果的迁移学习方法。
uncertainty estimationdeep neural networkimage classificationcalibrationtransfer learning
发现论文，激发创造
  • 基于误差对齐不确定性优化的可靠多模态轨迹预测

    通过提出基于误差对齐的不确定性优化方法和引入可训练的损失函数来估算深度神经网络的不确定性，以取得与模型误差相关性强的不确定性预测。该方法适用于连续结构化预测和回归任务，并在包括大规模车辆运动预测任务的多个数据集上进行评估，通过 Pearson 相关系数表明我们的方法提高了平均位移误差和不确定性与模型误差之间的相关性。

    Dec, 2022

  • 评估数据集偏移下模型预测不确定性的可信度

    以大量分类问题为基础，对现有现代机器学习方法中不同的贝叶斯和非贝叶斯概率量化预测不确定性的方法进行了评估，发现一些基于模型边缘化的方法在广泛的任务领域内表现出令人惊讶的强大效果。

    Jun, 2019

  • 深度神经分类器的偏差减少不确定性估计

    本研究提出了一种基于模型历史快照的算法，用于在非贝叶斯深度神经分类中，有选择地估计高度自信点的不确定性，这解决了从已训练网络中提取不确定信号的已知方法所带来的偏差估计问题，研究表明所提出的算法比所有已知方法的不确定性估计结果更加准确。

    May, 2018

  • 深度方向统计学：带有不确定性量化的姿态估计

    本文提出一种新颖的概率深度学习模型，通过使用 von Mises 分布预测物体位姿角度的分布，可用于不确定性量化，同时在不同质量的图像下也有较强的鲁棒性，经实验证明其具有竞争力的精度和预测能力。

    May, 2018

  • 使用四元数平均和深度多头网络进行旋转的概率回归

    该论文提出了一种从深度回归模型中提取旋转概率估计的方法，并将其扩展到 SO (3) 旋转群的目标上，该方法在合成和真实数据中都获得了良好的结果。

    Apr, 2019

  • 实时改善不确定性估计的几何方法

    我们提出了一种基于几何的方法来估计不确定性，它可通过后处理模型校准来实现，避免了重新训练和更改模型，经多个数据集和模型的详细评估显示出更好的不确定性估计，并且可在接近实时应用中使用。

    Jun, 2022

  • 深度学习不确定性估计的通用框架

    提出了一种用基于贝叶斯信任网络和蒙特卡罗采样的方法来对神经网络进行不确定性估计，这个方法具有与神经网络结构和任务无关，不需要优化进程的更改，能够应用于已经训练好的结构，有效地提高了准确性。

    Jul, 2019

  • 基于梯度的单目深度估计不确定性

    本文提出了一种基于深度神经网络的后验不确定性估计方法，通过辅助损失函数的梯度来估计不确定性，避免依赖于地面真实信息的损失定义，可以实现对固定深度估计模型的有状态压制应用。该方法在 KITTI 和 NYU 深度 V2 基准测试中实现了最先进的不确定性估计结果，并且模型和代码都可以在该链接公开获取。

    Aug, 2022

  • 通过准确度与不确定性优化来改善模型校准

    优化深度神经网络中的不确定性估计是安全关键应用中的一个重要问题。本文提出了利用准确度与不确定性之间的关系进行优化的方法，通过可微的 loss 函数来实现模型的不确定性校准，结果显示比现有的方法在大规模图像分类任务中表现的更好

    Dec, 2020

  • 用于分类的非参数校准

    提出了一种调整分类器置信度估计的方法，使其接近正确分类的概率，该方法利用了潜在高斯过程的非参数表示，并针对多类分类进行了特别设计，适用于任何输出置信度估计的分类器，不限于神经网络，实验证明其性能强。

    Jun, 2019