通过防止样本选择的偏差来学习不平衡有噪声数据

Feb, 2024

通过防止样本选择的偏差来学习不平衡有噪声数据

Learning with Imbalanced Noisy Data by Preventing Bias in Sample Selection

Huafeng Liu, Mengmeng Sheng, Zeren Sun, Yazhou Yao, Xian-Sheng Hua...

TL;DR提出了一种用于处理不平衡数据集中的噪声标签的简单而有效的方法，该方法基于类平衡的样本选择（CBS），结合置信度的样本增强（CSA），利用模型的训练动态纠正噪声样本的标签，并采用一致性正则化来提升模型性能。综合实验结果表明，我们的方法在不平衡情况下具有良好的效果和优越性。

Abstract

Learning with noisy labels has gained increasing attention because the inevitable imperfect labels in real-world scenarios can substantially hurt the deep model performance. Recent studies tend to regard low-loss samples as clean ones and discard high-loss ones to alleviate the negativ

noisy labels class imbalance sample selection confidence-based sample augmentation consistency regularization

发现论文，激发创造

减轻样本选择中的记忆化对于带有噪声标签的学习

本研究提出了一种基于类别惩罚标签的强有力标准，通过平均预测置信度我们得到了适当的惩罚标签，在各个观察到的标签中达到高值，以强化对数量噪声标记的惩罚。在各种场景中，使用这些标准进行样本选择，相比现有方法，网络的学习过程对噪声标签变得更加稳健。

Jul, 2021

具有损失不确定性的样本选择及其在带噪声标签学习中的应用

本研究提出了一种无标签学习的新方法，将区间估计引入了样本选择过程，以更好地探索未被充分选择的正确标注但看似贴错标签的较大损失数据和代表性差的数据，提高了误标噪声下的学习鲁棒性。

Jun, 2021

对抗噪声标签的无偏样本选择

在这篇论文中，我们揭示了现有的样本选择方法在实践中存在的数据和训练偏差问题，并提出了一种鲁棒的网络架构和混合采样策略来解决这些问题，以实现对带有噪声标签的学习任务的准确建模。

Jan, 2024

使用一般替代模型对样本选择进行抵抗标签噪声

利用视觉 - 语言替代模型 CLIP 自动过滤噪声样本，并设计了一种适应性边界损失来规范由 CLIP 引入的选择偏差，从而提供对标签噪声的鲁棒性。在真实和合成噪声数据集上验证了我们提出的方法的有效性。

Oct, 2023

使用软标签的合成样本减轻噪声监督

通过使用混合模型从局部损失分布学习样本权重，我们提出了一种利用合成样本训练模型的框架来减轻噪音标签影响，并通过逐渐修正噪音标签估计软目标，得到了更为准确的近似真实标签和更加独立和清晰界定的聚类，实验证明我们的方法在两个基准数据集 (CIFAR-10 和 CIFAR-100) 及两个大规模真实世界数据集 (Clothing1M 和 Webvision) 上优于现有技术方法且具备可靠的学习表达能力。

Jun, 2024

对抗噪声标签的稳健特征学习

This paper proposes a method to improve the robustness of deep learning models in the presence of noisy labels by utilizing unsupervised learning and cluster regularization.

Jul, 2023

深入研究样本损失曲线以应对嘈杂和不平衡的数据

该论文提出了一种名为 CurveNet 的曲线感知网络，并采用探测和分配的方法，通过元学习自适应地分配适当的样本权重，以解决深度神经网络中常见的数据偏见和样本不平衡问题，并利用 skip layer meta optimization 方法加速了训练速度，该方法在多项具有挑战性的评估指标上取得了最先进的性能。

Dec, 2021

使用协作样本选择和对比半监督学习来学习带噪标签的内容

利用 CLIP 模型的协作样本选择及预训练，并通过对 prompt 的微调以及协同训练 DNN 分类器，解决在学习有噪声标签的过程中由于样本选择错误累积导致的 DNN 训练偏见和泛化性能问题。

Oct, 2023

学习噪声标签的增强策略

本文研究了应对 “学习有噪音标签” 问题的多种数据增广策略，通过在 CIFAR-10、CIFAR-100 和 Clothing1M 等数据集上的实验，发现在 warm-up 阶段和学习阶段使用不同的增广策略能够最有效地提高 DNNs 的鲁棒性，同时也提出了一种关于样本筛选的增广方法，该方法在对真实噪音数据集进行处理时比其他基线方法取得了更好的结果。

Mar, 2021

分析标签噪声下分类器的鲁棒性

该研究探讨了标签噪声分类器的稳健性，旨在提高模型对复杂实际场景中的噪声数据的抵抗能力，并通过整合对抗机器学习和重要性重新加权技术来解决标签噪声对实际应用的影响。

Dec, 2023