Oct, 2023

使用协作样本选择和对比半监督学习来学习带噪标签的内容

PDF
TL;DR利用 CLIP 模型的协作样本选择及预训练，并通过对 prompt 的微调以及协同训练 DNN 分类器，解决在学习有噪声标签的过程中由于样本选择错误累积导致的 DNN 训练偏见和泛化性能问题。
learning with noisy labelsclean sample selectionsemi-supervised learningcollaborative sample selectionclip
发现论文，激发创造
  • 带有嘈杂标签的细粒度分类

    本研究旨在寻找一种有效的解决方法，以应对在细粒度数据集上进行嘈杂标签学习 (LNL-FG) 的挑战，为此，研究人员提出了一种称为随机容限监督对比学习 (SNSCL) 的新框架，旨在通过促进可辨别表达形式来解决标签噪音问题。该方法综合了加权机制与避免插入噪声标签的动量联想队列，以及一种从生成的分布中对特征嵌入进行采样的高效随机模块。大量实验表明了 SNSCL 的有效性。

    Mar, 2023

  • 带有噪声标签的选择性监督对比学习

    本文提出了一种选择性有监督对比学习（Sel-CL）方法，通过筛选可信样本减少噪声标签对表示学习的影响，改善只依赖高质量标注数据的有监督对比学习算法中噪声标签导致的泛化性能差的问题。实验证明该方法在多个噪声数据集上均具有鲁棒性且表现优于现有方法。

    Mar, 2022

  • 使用一般替代模型对样本选择进行抵抗标签噪声

    利用视觉 - 语言替代模型 CLIP 自动过滤噪声样本，并设计了一种适应性边界损失来规范由 CLIP 引入的选择偏差，从而提供对标签噪声的鲁棒性。在真实和合成噪声数据集上验证了我们提出的方法的有效性。

    Oct, 2023

  • 基于类别感知对比半监督学习

    提出了一种名为 CCSSL 的半监督学习方法，采用类别聚类和图像对比改善模型的伪标签质量和在真实世界中的鲁棒性，并通过目标重新加权实现了干净标签学习和减少噪声标签学习。实验表明其在多个数据集上均取得了显著的性能提升。

    Mar, 2022

  • SSR: 学习未知标签噪声的高效稳健框架

    本文提出了一个基于 KNN 分类和参数化模型分类相结合的方法，命名为 Sample Selection and Relabelling（SSR），用于解决存在未知噪声数据的学习问题（Learning with Unknown Label Noise），该方法在 CIFAR10 / CIFAR100 以及 WebVision，Clothing1M 和 ANIMAL-10N 等真实世界噪声数据集上比以前的方法表现更好。

    Nov, 2021

  • 噪声标签识别和矫正的邻域集合估计

    提出了邻域集合估计方法来弥合学习过程中可能产生的噪声标签带来的负面效果，实现清除嘈杂数据中的噪声标签，提取尽可能多的干净样本，从而提高模型性能，并用辅助技术来进一步优化模型。

    Aug, 2022

  • 噪声鲁棒图像分类的协同网络学习和标签纠正

    提出了一个深度学习神经网络的标签检查和修正方法，该方法结合了小损失选择和噪声校正的思想，采用两个不同的网络来通过小损失选择方法训练，并根据两网络的分类误差和同意误差的评估来度量训练数据的置信度，在真实和人工数据集上测试表明该方法优于基准方法。

    Feb, 2022

  • NLNL: 噪声标签的负学习

    本文提出了一种名为 “SelNLPL” 的优化 CNNs 训练方法，在使用负训练法（NL）的基础上，选择性地使用正训练法（PL）来训练低噪声数据，从而实现对有噪声数据分类的准确性优化。

    Aug, 2019

  • 基于插值的对比学习用于少标签半监督学习

    提出了一种基于插值方法的半监督学习算法来解决使用一些标签的数据集时一致性正则化方法的性能问题，并设计了一种新型对比损失来引导学习网络嵌入样本，实现更好的边界决策能力，通过实验证明，与现有算法相比，该算法可提高分类准确率 5.3% 以上。

    Feb, 2022

  • 噪声时间序列的去噪感知对比学习

    时间序列自监督学习的噪声消除方法及其对比学习目标选择适合的降噪方法，以提高表示的准确性。

    Jun, 2024