使用平衡不确定性识别不正确的分类

Oct, 2021

使用平衡不确定性识别不正确的分类

Identifying Incorrect Classifications with Balanced Uncertainty

Bolian Li, Zige Zheng, Changqing Zhang

TL;DR本文提出了分布不平衡方法和 Balance True Class Probability 框架（BTCP），通过 Distributional Focal Loss (DFL) 目标函数学习不确定性估计来解决现有模型在不平衡分类数据上的预测过度自信问题。实验结果表明，在多个数据集上 BTCP 表现优异，尤其是在纠正错误分类方面。

Abstract

uncertainty estimation is critical for cost-sensitive deep-learning applications (i.e. disease diagnosis). It is very challenging partly due to the inaccessibility of uncertainty groundtruth in most datasets. Previous works proposed to estimate the uncertainty from softmax calibration,

uncertainty estimation deep learning imbalanced classification btcp framework failure prediction

发现论文，激发创造

不确定性中寻求合适的平衡

利用贝叶斯不确定性估计解决类别不平衡学习的问题，并且成功改进了面部验证、属性预测、数字 / 物体识别、皮肤病检测等六个基准数据集上的分类性能。

Jan, 2019

利用不确定性估计来提高分类器性能

模型得分和不确定性对决策边界的选择有关，该研究提供了理论分析和经验证据来证明模型得分估计偏差依赖于不确定性和得分本身，通过动态规划和保序回归算法提出的方案在三个真实数据集上比传统的只使用模型得分方法，在高精确度边界下获得了 25％-40％的召回率提升，凸显了利用不确定性的好处。

Nov, 2023

深度神经分类器的偏差减少不确定性估计

本研究提出了一种基于模型历史快照的算法，用于在非贝叶斯深度神经分类中，有选择地估计高度自信点的不确定性，这解决了从已训练网络中提取不确定信号的已知方法所带来的偏差估计问题，研究表明所提出的算法比所有已知方法的不确定性估计结果更加准确。

May, 2018

基于不确定性引导的不均衡社会事件检测的边界学习

提出了一种新颖的基于不确定性引导的类别不平衡学习框架（UCL_SED）及其变体（UCL-EC_SED），用于不平衡社交事件检测任务，通过增强模型对不确定类别的泛化能力来改进整体模型性能。在实验中，模型在几乎所有类别中，特别是那些不确定的类别中，显著改善了社交事件表示和分类任务。

Oct, 2023

哪些模型天生就擅长不确定性估计？

探讨深度神经网络架构与训练机制与其相应的选择性预测和不确定性估计性能的关系，并在 484 个预训练的深度 Imagenet 分类器中进行了全面的选择性预测和不确定性估计性能研究，发现 ViT 架构在不确定性估计性能方面表现最优。

Jun, 2022

BaCOUn：具有分布外不确定性的贝叶斯分类器

使用贝叶斯框架在深度分类器上进行推理，从而获得可靠的不确定性估计。将一个生成器与基于边界点的特征组合起来，用于处理训练数据中的偏移问题。

Jul, 2020

基于置信度估计的不确定性感知狄利克雷网络故障预测

本研究介绍了基于不确定性的深度狄利克雷神经网络可靠地评估模型置信度和预测错误，提出新的准则基于置信度分数匹配来学习正确预测和失败的真实类别概率，并在多个图像分类任务上取得了优于传统网络最大类概率的预测真实类别概率的实验结果。

Oct, 2020

重新审视置信度估计：朝向可靠的故障预测

过去的研究表明，置信度评估方法往往会对错误的预测产生不利影响，本研究提出了一种新的置信度评估方法，通过寻找平坦极小值来扩大置信度差距，从而实现在多种分类场景下的失败预测性能的持续改进。

Mar, 2024

基于不确定性的文本可靠分类

本文针对文本分类任务中的 OOD 检测问题，提出了基于证据不确定性的方法，该方法通过引入辅助的离群样本和伪样本来训练模型，并明确建模了类别概率的不确定性。实验证明，该方法能够轻松部署于传统 RNN 和 Fine-tuned 预训练 transformers，并在 OOD 检测上优于其他方法。

Jul, 2021

不平衡半监督学习的两次类别偏差校正

通过引入一种名为 TCBC 的新方法，我们解决了传统半监督学习中的两个挑战：训练样本的不平衡分布导致模型偏向某些类别，以及未标记样本的分布未知且可能与已标记样本不同，在训练过程中进一步导致偏向类别的伪标签。我们通过利用参与训练样本的类别分布估计来纠正模型，使其学习在类别平衡先验下的样本后验概率，从而减轻模型固有的类别偏差。在此基础上，我们还估计了训练过程中当前模型参数的类别偏差，对未标记样本的伪标签进行二次修正，以尽量使不同类别的未标记样本的伪标签分配公平。通过对 CIFAR10/100-LT、STL10-LT 和大规模长尾数据集 SUN397 的大量实验，我们提供确凿证据，证明我们提出的 TCBC 方法可靠地提升了类别不平衡的半监督学习性能。

Dec, 2023