MMNov, 2020

标签噪声表示学习综述：过去，现在和未来

PDF
TL;DR该研究论文通过机器学习的视角，提供了正式的 LNRL 定义并分析了噪声标签对深度学习模型性能的影响。在此基础上，将 LNRL 方法划分为三种不同方向，并讨论了各种分类的优缺点。论文旨在提高通过设计鲁棒的 LNRL 方法进行深度学习模型训练的效率，同时提出了一些其他研究方向。
发现论文，激发创造
  • BadLabel: 评估和增强标签噪音学习的强健视角

    本文介绍了一种新型标签噪声类型，称为 BadLabel，旨在增强现有 LNL 算法的鲁棒性，并提出了一种基于对抗性的鲁棒 LNL 方法来解决 BadLabel 的问题，实验证明该方法能有效地提高模型的泛化性能。

    May, 2023

  • 深度神经网络中的噪声标签学习：综述

    本文综述了深度学习中标签噪声的学习问题，提供了 62 种最新的鲁棒训练方法，并系统性比较了六个评估指标。同时，分析了噪声估计率和评估方法，并提出了未来的几个研究方向。

    Jul, 2020

  • 深度学习下存在噪声标签的图像分类：综述

    本文介紹關於使用深度學習算法處理帶有噪聲標籤的問題，針對噪聲建立噪聲模型和使用魯棒損失、正則化等方法建立魯棒算法兩種子群進行了綜述。

    Dec, 2019

  • PLReMix：用伪标签松弛对抗噪音标签的对比度表示学习

    我们提出了一种端到端的 PLReMix 框架，通过引入伪标签松弛的对比损失来避免复杂的训练流程，解决了 Contrastive Representation Learning（CRL）与有监督学习的优化冲突，并采用二维高斯混合模型（GMM）同时利用语义信息和模型输出来区分干净和噪声样本。

    Feb, 2024

  • NoisywikiHow：自然语言处理中用于真实世界噪声标签学习的基准

    本研究构建了最大的 NLP 基准 NoisywikiHow，用于学习真实世界中存在噪声标签的情况。该基准数据集通过模拟人类误差构建多个标签噪声来源，并提供多种噪声水平，以支持对含噪数据进行控制实验，并为对学习噪声标签方法（LNL）进行全面系统地评估提供了可能。

    May, 2023

  • LNL+K: 噪声标签学习与噪声源概率分布知识

    本文介绍了一种新的学习任务 —— 带有噪声标签和噪声源分布知识的学习，并探索了几种方法，将噪声源知识整合到最先进的 LNL 方法中，在三个不同的数据集和三种噪声类型上报告了与未经调整的方法相比提高 5-15% 的性能，突出了直接探究 LNL + K 任务的重要性。

    Jun, 2023

  • 学习噪声不变表示以实现稳健语音识别

    本文提出了一种建议将干净示例和其表面扰动的对应物不仅映射到相同类别，而且映射到相同表示的不变表示学习（IRL）方法，该方法通过数据扩充有效地减少字符错误率，特别是在不同于训练期间所见的若干场景上。

    Jul, 2018

  • 带有嘈杂标签的细粒度分类

    本研究旨在寻找一种有效的解决方法，以应对在细粒度数据集上进行嘈杂标签学习 (LNL-FG) 的挑战，为此，研究人员提出了一种称为随机容限监督对比学习 (SNSCL) 的新框架，旨在通过促进可辨别表达形式来解决标签噪音问题。该方法综合了加权机制与避免插入噪声标签的动量联想队列，以及一种从生成的分布中对特征嵌入进行采样的高效随机模块。大量实验表明了 SNSCL 的有效性。

    Mar, 2023

  • 分析标签噪声下分类器的鲁棒性

    该研究探讨了标签噪声分类器的稳健性，旨在提高模型对复杂实际场景中的噪声数据的抵抗能力，并通过整合对抗机器学习和重要性重新加权技术来解决标签噪声对实际应用的影响。

    Dec, 2023

  • 分类中的噪音标签处理：一项调查

    对于计算机视觉任务尤其是图像分类任务，本综述全面回顾了应对噪声标签的不同深度学习方法的演变，研究了不同的噪声模式，并提出了一种由现实世界数据引导的算法来生成合成标签噪声模式，以形成一个新的以真实世界数据为指导的合成基准，并在该基准上评估了一些典型的噪声鲁棒方法。

    Apr, 2024