Mar, 2024

解决长尾噪声标签学习问题：基于标签珍稀性考虑的两阶段解决方案

PDF
TL;DR通过结合软标签修复与多专家集成学习的有效的两阶段方法，我们介绍了一种克服先前方法限制的方法，用于处理真实世界数据集中存在的噪声标签和类别不平衡问题，实验证实了我们的方法的优越性。
noisy labelsclass imbalancetwo-stage approachmulti-expert ensemble learninglabel refurbishment
发现论文，激发创造
  • 学习中的确认偏见问题：以标签噪声为手段进行打击

    通过融合伪标记和置信度估计技术，Robust LR 方法成功地改善了数据标签噪声和确认偏差，并在以不同级别合成噪声的 CIFAR 和真实噪声的 Mini-WebVision 和 ANIMAL-10N 三个数据集上实现了最先进的性能。

    Dec, 2021

  • 标签噪声下的鲁棒长尾学习

    研究了在长尾标签分布下标签噪声问题，提出了一种新的原型噪声检测方法及一个鲁棒的框架，该框架通过软伪标签技术和半监督学习算法进一步提高了泛化性能，并且在基准和真实数据集上表现优于现有基线模型，尤其是比 DivideMix 模型测试精度高出 3％。

    Aug, 2021

  • 二阶段微调：一种学习类别不平衡数据的新策略

    本研究提出一种两阶段的微调神经网络的方法。首先，利用平衡权重重新设计模型进行初步的调整，然后再进行标准的微调过程，以解决在长尾分布数据上进行神经网络训练时类别不平衡和类别样本不足的问题。实验结果表明，这种方法在各种合成数据集和现实应用中都具有优越性。

    Jul, 2022

  • 识别长尾样本分布中的困难噪声

    介绍了一个新的挑战，即噪声长尾分类（NLT），并设计了一种迭代噪声学习框架 Hard-to-Easy（H2E），通过将 “hard” 噪声降低到 “easy” 噪声来减轻了数据失衡的影响，并在长尾设置中超过了现有的去噪方法。

    Jul, 2022

  • 协同学习与拼合相结合的多标签视觉识别技术

    本文重点研究在含有噪声标签的长尾多标签视觉数据中如何降噪，提出了一种 Stitch-Up 数据增强方法和一个 Heterogeneous Co-Learning 框架，实现去噪和更健壮的表征学习。通过两个挑战性基准测试，VOC-MLT-Noise 和 COCO-MLT-Noise，证明了该方法的有效性。

    Jul, 2023

  • 提取清洁平衡的子集以用于嘈杂的长尾分类

    使用基于分布匹配的类原型和最优传输的伪标注方法，结合观察标签和伪标签的有效筛选标准，成功解决了长尾分布和标签噪声的联合问题，提供了更加平衡、准确的训练样本集，为具有标签噪声的长尾分类提供了有效的性能提升。

    Apr, 2024

  • 长尾学习的分布鲁棒性损失

    本文提出了一种基于鲁棒性理论的新型损失函数，旨在解决深度模型在处理不平衡数据时的分类偏差问题，从而提高对于长尾类别的识别准确性。在多项基准测试中，通过降低特征空间中头类别的表示偏差，该方法相较于已有方法以及 SOTA 方法均得到了更好的效果。

    Apr, 2021

  • 学习长尾数据的降标签方法

    减少长尾数据标注成本的弱监督学习方法，有效保留了尾部样本的有监督信息，并提出了一种简单高效且具有强大理论保证的学习框架，通过对 ImageNet 等基准数据集的广泛实验证实了其有效性，优于最先进的弱监督方法。

    Mar, 2024

  • 基于标签感知的有界 CVaR 的鲁棒长尾学习

    本文提出了两种基于 CVaR（条件风险值）的方法来改善长尾学习问题，在理论上提供了坚实的支持，通过实验证实了所提出方法的优越性。

    Aug, 2023

  • APAM：自适应预训练和自适应元学习的语言模型，用于噪声标签和长尾学习

    本文提出了一种基于对比学习的通用框架，通过特定的学习方法，包括 re-weighting 模块和多项式交叉熵损失和 focal loss 的结合，有效解决了自然语言处理中长尾问题和噪声标签的负面影响。

    Feb, 2023