CVPRMar, 2022

带有噪声标签的选择性监督对比学习

PDF
TL;DR本文提出了一种选择性有监督对比学习（Sel-CL）方法，通过筛选可信样本减少噪声标签对表示学习的影响，改善只依赖高质量标注数据的有监督对比学习算法中噪声标签导致的泛化性能差的问题。实验证明该方法在多个噪声数据集上均具有鲁棒性且表现优于现有方法。
deep networkscontrastive learningnoisy labelsrepresentation learningrobustness
发现论文，激发创造
  • 使用协作样本选择和对比半监督学习来学习带噪标签的内容

    利用 CLIP 模型的协作样本选择及预训练，并通过对 prompt 的微调以及协同训练 DNN 分类器，解决在学习有噪声标签的过程中由于样本选择错误累积导致的 DNN 训练偏见和泛化性能问题。

    Oct, 2023

  • 揭示和克服监督对比学习中的标签噪音挑战

    我们提出了 D-SCL，这是一种新颖的去偏差的监督对比学习目标，旨在减少标记错误引入的偏差，并证明了 D-SCL 在各种视觉基准上稳定优于最先进的表示学习技术，提供了对标签错误的改进的鲁棒性。

    Nov, 2023

  • 探究对比学习为何有益于提高对抗标签噪声的鲁棒性

    通过自监督对比学习，深度神经网络通过学习具有卓越的鲁棒性的表示矩阵来避免噪声标签造成的过拟合，并进一步证明通过对比学习预训练的深度神经网络具有低秩结构，这种结构可以帮助深度神经网络更好地适应噪声标签。

    Jan, 2022

  • 重新思考弱监督在协同学习中的应用

    研究了在弱监督下利用联合训练有监督和无监督对比损失来训练相似图，证明了半监督标签可以改善下游分类错误的绑定，而噪声标签的影响有限。

    Jun, 2023

  • 对抗噪声标签的稳健特征学习

    This paper proposes a method to improve the robustness of deep learning models in the presence of noisy labels by utilizing unsupervised learning and cluster regularization.

    Jul, 2023

  • 噪声标签学习中的表征与分类器解耦

    本文提出了一种名为 REED 的新方法来解决卷积神经网络在存在噪声标签时训练的挑战，该方法通过无监督学习获取表示，通过分类器的半监督自训练解决噪声标签学习问题，并联合半监督重新训练表示和分类器，实现了对噪声标签的鲁棒性，大量实验结果表明，该方法在高噪声水平下可以显著击败现有的最先进方法。

    Nov, 2020

  • SELC: 自集成标签校正改进噪声标签学习

    为了解决深度神经网络容易过度拟合噪声标签从而导致通用性能不佳的问题，本文提出了一种名为自我集成标签校正（SELC）的新方法，利用指数移动平均的集成预测来更新原始的噪声标签，逐渐减少对噪声标签的监督，增加对集成预测的监督，相比现有很多最先进的方法，SELC 取得了更有前途和更稳定的结果。

    May, 2022

  • 带有嘈杂标签的细粒度分类

    本研究旨在寻找一种有效的解决方法，以应对在细粒度数据集上进行嘈杂标签学习 (LNL-FG) 的挑战，为此，研究人员提出了一种称为随机容限监督对比学习 (SNSCL) 的新框架，旨在通过促进可辨别表达形式来解决标签噪音问题。该方法综合了加权机制与避免插入噪声标签的动量联想队列，以及一种从生成的分布中对特征嵌入进行采样的高效随机模块。大量实验表明了 SNSCL 的有效性。

    Mar, 2023

  • 使用一般替代模型对样本选择进行抵抗标签噪声

    利用视觉 - 语言替代模型 CLIP 自动过滤噪声样本，并设计了一种适应性边界损失来规范由 CLIP 引入的选择偏差，从而提供对标签噪声的鲁棒性。在真实和合成噪声数据集上验证了我们提出的方法的有效性。

    Oct, 2023

  • 从有噪标签的数据中进行深度自学习

    提出了一种新的深度自学习框架，用于在真实嘈杂的数据集上训练鲁棒性网络，无需额外的监督，并且与大多数现有方法不同，它不依赖于嘈杂标签分布的任何假设，具有更好的性能。

    Aug, 2019