ICMLOct, 2020

基于置信度估计的不确定性感知狄利克雷网络故障预测

PDF
TL;DR本研究介绍了基于不确定性的深度狄利克雷神经网络可靠地评估模型置信度和预测错误，提出新的准则基于置信度分数匹配来学习正确预测和失败的真实类别概率，并在多个图像分类任务上取得了优于传统网络最大类概率的预测真实类别概率的实验结果。
deep learningmodel confidencepredictive errorsdirichlet neural networksimage classification
发现论文，激发创造
  • 通过学习模型置信度来解决失败预测问题

    研究了深度神经网络的可信度和故障预测，提出了一种基于真实类概率的模型置信度的新目标标准，通过在训练集上学习 TCP 标准进行故障预测，验证了该方法的有效性，超过了 MCP 到贝叶斯不确定性的几种强方法以及最近的专门用于故障预测的方法。

    Oct, 2019

  • 通过辅助模型进行置信度估计

    本文提出了一种新的模型置信度目标标准：真实类别概率（TCP），并通过辅助模型的学习方案，学习 TCP 标准。在失败预测和自我训练方面进行了广泛实验，并在图像分类和语义分割方面验证了该方法的相关性和性能。

    Dec, 2020

  • 利用证据理论的深度学习进行分类不确定性量化

    通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能，我们提出一种与贝叶斯神经网络正交的方法，该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。

    Jun, 2018

  • 深度神经网络的置信度感知学习

    本文提出了一种基于 Correctness Ranking Loss 的深度神经网络训练方法，可以对类别概率进行显式的正序排名，提高置信度预测。该方法易于实现，不需要额外的计算代价，适用于现有体系结构，并且在分类基准数据集上表现良好。同时，还对置信度估计相关的任务，如超出分布检测和主动学习，具有相同的可靠性。

    Jul, 2020

  • 深度神经网络分类器的 PAC 置信度预测

    本文提出了一种新算法来构建深度神经网络的预测分类置信度，并证明了其正确性保证。此外，展示了如何利用预测置信度实现高速 DNN 推理和安全规划，并在实验中展示了其在最先进的 DNN 中提供保证的能力。

    Nov, 2020

  • 具有贝叶斯深度神经网络的分类快速预测不确定性

    本文提出了使用 Dirichlet 近似来构建分类神经网络输出的分布，该近似比先构建权重的 Gaussian 分布再进行采样来得更省时，同时有利于计算不确定性和大规模数据集的应用，例如 ImageNet。

    Mar, 2020

  • 重新审视置信度估计：朝向可靠的故障预测

    过去的研究表明，置信度评估方法往往会对错误的预测产生不利影响，本研究提出了一种新的置信度评估方法，通过寻找平坦极小值来扩大置信度差距，从而实现在多种分类场景下的失败预测性能的持续改进。

    Mar, 2024

  • 使用平衡不确定性识别不正确的分类

    本文提出了分布不平衡方法和 Balance True Class Probability 框架（BTCP），通过 Distributional Focal Loss (DFL) 目标函数学习不确定性估计来解决现有模型在不平衡分类数据上的预测过度自信问题。实验结果表明，在多个数据集上 BTCP 表现优异，尤其是在纠正错误分类方面。

    Oct, 2021

  • 文件分类中的不确定性缓解

    本篇论文提出了一种基于神经网络和新型 dropout - 熵测量方法的模型以及基于特征表示的度量学习方法，可以更精确地预测，提高分类器的预测准确性，尤其在医学诊断等需要确定不确定预测的领域有广泛的应用。

    Jul, 2019

  • 用于基于风险决策的深度学习分类中的离散输入噪声量化不确定性

    深度神经网络在风险决策中的应用受到广泛关注，已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架，用于量化深度神经网络模型的预测不确定性，特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究，结果表明在一定风险水平下，我们能够识别出风险敏感的情况，这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比，我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。

    Oct, 2023