Dec, 2020

通过辅助模型进行置信度估计

PDF
TL;DR本文提出了一种新的模型置信度目标标准：真实类别概率（TCP），并通过辅助模型的学习方案，学习 TCP 标准。在失败预测和自我训练方面进行了广泛实验，并在图像分类和语义分割方面验证了该方法的相关性和性能。
发现论文，激发创造
  • 通过学习模型置信度来解决失败预测问题

    研究了深度神经网络的可信度和故障预测，提出了一种基于真实类概率的模型置信度的新目标标准，通过在训练集上学习 TCP 标准进行故障预测，验证了该方法的有效性，超过了 MCP 到贝叶斯不确定性的几种强方法以及最近的专门用于故障预测的方法。

    Oct, 2019

  • 基于置信度估计的不确定性感知狄利克雷网络故障预测

    本研究介绍了基于不确定性的深度狄利克雷神经网络可靠地评估模型置信度和预测错误，提出新的准则基于置信度分数匹配来学习正确预测和失败的真实类别概率，并在多个图像分类任务上取得了优于传统网络最大类概率的预测真实类别概率的实验结果。

    Oct, 2020

  • 深度神经网络的置信度感知学习

    本文提出了一种基于 Correctness Ranking Loss 的深度神经网络训练方法，可以对类别概率进行显式的正序排名，提高置信度预测。该方法易于实现，不需要额外的计算代价，适用于现有体系结构，并且在分类基准数据集上表现良好。同时，还对置信度估计相关的任务，如超出分布检测和主动学习，具有相同的可靠性。

    Jul, 2020

  • 使用平衡不确定性识别不正确的分类

    本文提出了分布不平衡方法和 Balance True Class Probability 框架（BTCP），通过 Distributional Focal Loss (DFL) 目标函数学习不确定性估计来解决现有模型在不平衡分类数据上的预测过度自信问题。实验结果表明，在多个数据集上 BTCP 表现优异，尤其是在纠正错误分类方面。

    Oct, 2021

  • 网络校准的置信度和确定性的多类别对齐

    我们提出了一种基于多类对齐预测均值置信度和预测确定度（MACC）的新的训练时校准方法，通过鼓励模型在预 softmax 分布中提供低（或高）扩散，从而达到了领域内和领域外预测的最先进校准性能。

    Sep, 2023

  • 深度神经网络分类器的 PAC 置信度预测

    本文提出了一种新算法来构建深度神经网络的预测分类置信度，并证明了其正确性保证。此外，展示了如何利用预测置信度实现高速 DNN 推理和安全规划，并在实验中展示了其在最先进的 DNN 中提供保证的能力。

    Nov, 2020

  • 学习最优拟合分类器

    本文探讨了在深度学习基础上进行置信区间预测的方法，并提出了一种基于置信区间训练的深度学习模型，该方法可有效地缩小置信边界，同时保证对医学诊断等高风险场景的准确性。

    Oct, 2021

  • 提高置信度估计的可靠性

    本研究提出了一种基于元学习的框架来同时提高置信度估计模型在不均衡数据和各种数据输入情况下的表现，并在单目深度估计和图像分类任务中进行了验证。

    Oct, 2022

  • 基于置信度的持续疾病分类任务预测与概率分布

    深度学习模型在识别医学影像疾病分类方面被广泛认可，然而在动态和不断变化的临床环境中，持续学习的需求变得尤为重要，以适应不断涌入的来自不同来源的医学数据，并确保医疗数据的隐私。在本研究中，我们强调利用由专家分类器组成的网络，每次引入新任务时添加新的专家分类器。我们提出了 CTP，一种利用置信分数的任务 ID 预测器，利用分类器的概率分布（logits）在推断时准确确定任务 ID。通过定义分布中的噪声区域并计算置信分数，CTP 相较于其他相关的持续学习方法实现了更好的性能。此外，通过在推断时提供数据的连续性，可以进一步提高 CTP 的性能。

    Jun, 2024

  • 基于神经网络输出层分布的分类置信度估计

    本文提出了一种基于 logit 值分布的神经网络分类模型的不确定性预测和置信水平估计方法，可用于知识提取过程中的预测筛选，并在关系提取、命名实体识别和图像分类等任务中获得显著的提高。

    Oct, 2022