AAAIDec, 2023

不平衡半监督学习的两次类别偏差校正

PDF
TL;DR通过引入一种名为 TCBC 的新方法，我们解决了传统半监督学习中的两个挑战：训练样本的不平衡分布导致模型偏向某些类别，以及未标记样本的分布未知且可能与已标记样本不同，在训练过程中进一步导致偏向类别的伪标签。我们通过利用参与训练样本的类别分布估计来纠正模型，使其学习在类别平衡先验下的样本后验概率，从而减轻模型固有的类别偏差。在此基础上，我们还估计了训练过程中当前模型参数的类别偏差，对未标记样本的伪标签进行二次修正，以尽量使不同类别的未标记样本的伪标签分配公平。通过对 CIFAR10/100-LT、STL10-LT 和大规模长尾数据集 SUN397 的大量实验，我们提供确凿证据，证明我们提出的 TCBC 方法可靠地提升了类别不平衡的半监督学习性能。
class-imbalanced semi-supervised learningtwice class bias correctionmodel biasclass distributionpseudo-labels
发现论文，激发创造
  • 使用平衡不确定性识别不正确的分类

    本文提出了分布不平衡方法和 Balance True Class Probability 框架（BTCP），通过 Distributional Focal Loss (DFL) 目标函数学习不确定性估计来解决现有模型在不平衡分类数据上的预测过度自信问题。实验结果表明，在多个数据集上 BTCP 表现优异，尤其是在纠正错误分类方面。

    Oct, 2021

  • 通过配对类别平衡来缓解长尾实例分割问题

    本研究探讨使用混淆矩阵对长尾实例分割问题中不同类别间的精细误分类信息进行建模，从而解决训练样本不平衡引起的模型偏差问题，提出的 Pairwise Class Balance (PCB) 方法能够有效地进行模型规范化训练，实验结果表明该方法具有较强的泛化性能和优越的表现。

    Jan, 2022

  • 具有偏差自适应分类器的不平衡半监督学习

    本文提出了一种基于偏差自适应分类器的伪标签半监督学习方法，通过引入一个偏差吸引器来自动补偿类别不平衡带来的偏差，从而提高了伪标签方法在类别不平衡情况下的性能。实验证明，该方法优于现有的基准方法。

    Jul, 2022

  • 通过分布匹配进行类先验变化下的半监督类别平衡学习

    本文提出通过匹配训练和测试输入数据的概率分布来估计测试数据集中的类比率，从而解决在缺乏测试域标签数据时学习测试数据集中的类比率所带来的问题。

    Jun, 2012

  • 一种极为简单的半监督不平衡学习基线模型

    SimiS 是一种简单而有效的 SSL 算法，通过用伪标签补充数据以解决类别不平衡问题，在 CIFAR100-LT，FOOD101-LT 和 ImageNet127 数据集上分别相对现有方法提高了 12.8％，13.6％和 16.7％的表现。

    Nov, 2022

  • ABC: 辅助平衡分类器用于半监督不平衡类别学习

    本文提出了一种可扩展的类不平衡半监督学习算法，它可以有效地利用未标记的数据，同时通过引入单层的辅助平衡分类器（ABC）来缓解类别不平衡问题，并使用一种新的半监督学习技术（一致性正则化）去平衡分类器，从而在四个基准数据集上实现了最先进的性能。

    Oct, 2021

  • 类别不平衡的半监督学习

    本文提出一种称为类别不平衡半监督学习（CISSL）的任务，介绍了现有的类别不平衡 SSL 方法，并提出了一种所谓的压抑一致性损失（SCL）的正则化方法，该方法对于类别不平衡情况具有鲁棒性，在 CISSL 环境下比传统方法表现更好。

    Feb, 2020

  • 通过防止样本选择的偏差来学习不平衡有噪声数据

    提出了一种用于处理不平衡数据集中的噪声标签的简单而有效的方法，该方法基于类平衡的样本选择（CBS），结合置信度的样本增强（CSA），利用模型的训练动态纠正噪声样本的标签，并采用一致性正则化来提升模型性能。综合实验结果表明，我们的方法在不平衡情况下具有良好的效果和优越性。

    Feb, 2024

  • 基于类别感知对比半监督学习

    提出了一种名为 CCSSL 的半监督学习方法，采用类别聚类和图像对比改善模型的伪标签质量和在真实世界中的鲁棒性，并通过目标重新加权实现了干净标签学习和减少噪声标签学习。实验表明其在多个数据集上均取得了显著的性能提升。

    Mar, 2022

  • 长尾识别中的子类平衡对比学习

    本文提出了一种新的 “子类平衡对比学习（SBCL）” 方法，通过在表示空间中对头类聚类，以捕捉头类和尾类之间的两层类层次结构，实现了实例和子类平衡，并通过在不同类之间的子类对比学习来学习原始类标签。

    Jun, 2023