Oct, 2019

通过学习模型置信度来解决失败预测问题

PDF
TL;DR研究了深度神经网络的可信度和故障预测，提出了一种基于真实类概率的模型置信度的新目标标准，通过在训练集上学习 TCP 标准进行故障预测，验证了该方法的有效性，超过了 MCP 到贝叶斯不确定性的几种强方法以及最近的专门用于故障预测的方法。
deep neural networkmodel confidencetrue class probabilityfailure predictionimage classification
发现论文，激发创造
  • 通过辅助模型进行置信度估计

    本文提出了一种新的模型置信度目标标准：真实类别概率（TCP），并通过辅助模型的学习方案，学习 TCP 标准。在失败预测和自我训练方面进行了广泛实验，并在图像分类和语义分割方面验证了该方法的相关性和性能。

    Dec, 2020

  • 基于置信度估计的不确定性感知狄利克雷网络故障预测

    本研究介绍了基于不确定性的深度狄利克雷神经网络可靠地评估模型置信度和预测错误，提出新的准则基于置信度分数匹配来学习正确预测和失败的真实类别概率，并在多个图像分类任务上取得了优于传统网络最大类概率的预测真实类别概率的实验结果。

    Oct, 2020

  • 使用平衡不确定性识别不正确的分类

    本文提出了分布不平衡方法和 Balance True Class Probability 框架（BTCP），通过 Distributional Focal Loss (DFL) 目标函数学习不确定性估计来解决现有模型在不平衡分类数据上的预测过度自信问题。实验结果表明，在多个数据集上 BTCP 表现优异，尤其是在纠正错误分类方面。

    Oct, 2021

  • 基于人工和匿名训练的多分类器故障预测模型，确保数据隐私

    本文提出了一种新颖的非侵入式系统故障预测技术，该技术利用开发人员提供的信息和原始日志中的最小信息（而不是挖掘整个日志），并将数 据完全保留在数据所有者的管辖范围内。

    Sep, 2022

  • 重新审视置信度估计：朝向可靠的故障预测

    过去的研究表明，置信度评估方法往往会对错误的预测产生不利影响，本研究提出了一种新的置信度评估方法，通过寻找平坦极小值来扩大置信度差距，从而实现在多种分类场景下的失败预测性能的持续改进。

    Mar, 2024

  • 网络校准的置信度和确定性的多类别对齐

    我们提出了一种基于多类对齐预测均值置信度和预测确定度（MACC）的新的训练时校准方法，通过鼓励模型在预 softmax 分布中提供低（或高）扩散，从而达到了领域内和领域外预测的最先进校准性能。

    Sep, 2023

  • 深度神经网络的置信度感知学习

    本文提出了一种基于 Correctness Ranking Loss 的深度神经网络训练方法，可以对类别概率进行显式的正序排名，提高置信度预测。该方法易于实现，不需要额外的计算代价，适用于现有体系结构，并且在分类基准数据集上表现良好。同时，还对置信度估计相关的任务，如超出分布检测和主动学习，具有相同的可靠性。

    Jul, 2020

  • 基于假设检验的选择性概率分类器

    本论文提出一种鉴别器违反封闭世界假设的有效方法，该方法基于概率网络的假设检验拒绝了不确定的输出并实现了低误报率的要求。

    May, 2021

  • 深度神经网络分类器的 PAC 置信度预测

    本文提出了一种新算法来构建深度神经网络的预测分类置信度，并证明了其正确性保证。此外，展示了如何利用预测置信度实现高速 DNN 推理和安全规划，并在实验中展示了其在最先进的 DNN 中提供保证的能力。

    Nov, 2020

  • 基于置信度的持续疾病分类任务预测与概率分布

    深度学习模型在识别医学影像疾病分类方面被广泛认可，然而在动态和不断变化的临床环境中，持续学习的需求变得尤为重要，以适应不断涌入的来自不同来源的医学数据，并确保医疗数据的隐私。在本研究中，我们强调利用由专家分类器组成的网络，每次引入新任务时添加新的专家分类器。我们提出了 CTP，一种利用置信分数的任务 ID 预测器，利用分类器的概率分布（logits）在推断时准确确定任务 ID。通过定义分布中的噪声区域并计算置信分数，CTP 相较于其他相关的持续学习方法实现了更好的性能。此外，通过在推断时提供数据的连续性，可以进一步提高 CTP 的性能。

    Jun, 2024