ICMLSep, 2021

长尾视觉识别的类分布感知校准

PDF
TL;DR本文提出了一种考虑类别分布的深度神经网络模型校准方法，针对高频类别过于自信的问题，通过使用类别频率信息来替换温度值或平滑标签，并结合蒸馏损失减少误校准。实验证明该方法在长尾数据集上提高了预测准确性和校准性能。
deep neural networksmodel calibrationlong-tailed datasetclass-distribution-awareself-distillation
发现论文，激发创造
  • 长尾分类的标签感知分布校准

    本文提出了一种新的分布校准方法，名为标签感知分布校准（LADC），它利用头部类的相关统计信息丰富尾部类，从而更准确地校准长尾分布的数据集。实验结果表明 LADC 显著优于现有的方法。

    Nov, 2021

  • 长尾识别的双通道温度缩放校准

    该研究论文提出了一种双分支温度缩放校准模型 (Dual-TS)，同时考虑了不同类别的温度参数的多样性和少数类别中稀有样本的温度参数的非通用性，并提出了新的校准评估度量 Esbin-ECE。实验证明，该模型在传统 ECE 和 Esbin-ECE 指标中均达到了最先进水平。

    Aug, 2023

  • 改进长尾识别的校准

    本文针对训练数据集不均衡和 miscalibration 等问题，设计了两种方法，分别为标签感知平滑和批次偏移规范化，并在多个长尾识别基准数据集上创造了新记录。

    Apr, 2021

  • 从头到尾传递知识：长尾分布下的不确定性校准

    本论文研究如何从长尾分布的样本中训练模型并校准，利用知识转移和重要性权重估算方法，将尾部类别的目标概率密度适应地从头部类别中传输，实现了长尾分布校准，并在多个数据集上证实了该方法的有效性。

    Apr, 2023

  • 高斯云逻辑调整的长尾视觉识别

    本文提出了一种适用于长尾数据的新的神经网络训练方法，使用高斯混合调整不同分类逻辑回归的差异，实现对样本在嵌入空间的调整，从而解决长尾问题，同时也提出了一种分类器的重新训练策略来减轻歧视，实验表明该方法具有卓越的性能。

    May, 2023

  • 温度缩放校准深度神经网络的实用方法

    研究了用于深度神经网络的置信度校准方法 Temperature Scaling（TS），发现在验证集规模较小或者包含噪声标记的情况下，其效果不佳，同时也不能同时兼顾高准确性和低准确性的网络，提出了一种新方法 Attended Temperature Scaling（ATS），在保留 TS 优点的同时提高了校准的鲁棒性，并在皮肤病检测应用上进行了对比分析。

    Oct, 2018

  • 长尾分布自适应

    本研究通过将长尾分布建模为不平衡领域，一般分布建模为平衡领域，提出了一种基于域适应的长尾识别解决机制。该机制通过松弛一般化误差界限、优化不平衡和平衡领域的经验风险、以及利用类内和类间距离来逼近域分歧，以可解释的方式将基于长尾分布的模型适应到一般分布中，实验结果验证了其在图像识别、物体检测和实例分割等方面达到了最先进的性能水平。

    Oct, 2021

  • 基于类别难度的长尾视觉识别方法

    该研究旨在解决长尾型样本数据集中头部类别的偏差问题。通过设计一种基于实时测量类别难度的加权损失函数和数据采样技术来缓解偏差，并在多项任务上进行验证，包括图像分类、目标检测、实例分割和视频动作分类。在 ImageNet-LT、LVIS 和 EGTEA 等长尾型数据集上实现了最先进的效果。

    Jul, 2022

  • 应对领域转移下的长尾类别分布

    使用三种新的核心功能块，以及集成在元学习框架中，解决长尾分布分类和领域漂移问题，提高了领域泛化在新的目标领域上的表现。

    Jul, 2022

  • 面向长尾视觉识别的校准模型

    提出了两种新方法，一种是平衡取向的数据增强（Uniform Mixup），另一种是基于贝叶斯理论的 Bayes Bias，并通过理论和实验证明，这两种方法能够确保分类校准和提高性能。

    Nov, 2021