Mar, 2021

学习噪声标签的增强策略

PDF
TL;DR本文研究了应对 “学习有噪音标签” 问题的多种数据增广策略，通过在 CIFAR-10、CIFAR-100 和 Clothing1M 等数据集上的实验，发现在 warm-up 阶段和学习阶段使用不同的增广策略能够最有效地提高 DNNs 的鲁棒性，同时也提出了一种关于样本筛选的增广方法，该方法在对真实噪音数据集进行处理时比其他基线方法取得了更好的结果。
deep neural networkslabel noiseaugmentation strategieswarm-up periodloss convergence
发现论文，激发创造
  • 使用软标签的合成样本减轻噪声监督

    通过使用混合模型从局部损失分布学习样本权重，我们提出了一种利用合成样本训练模型的框架来减轻噪音标签影响，并通过逐渐修正噪音标签估计软目标，得到了更为准确的近似真实标签和更加独立和清晰界定的聚类，实验证明我们的方法在两个基准数据集 (CIFAR-10 和 CIFAR-100) 及两个大规模真实世界数据集 (Clothing1M 和 Webvision) 上优于现有技术方法且具备可靠的学习表达能力。

    Jun, 2024

  • 从含有噪声标签的数据中学习如何学习

    本文提出一种噪声容忍的训练算法，其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练，该元学习方法训练模型，以便在使用每个设置的合成噪声标签进行一次梯度更新后，模型不会过度拟合特定的噪声，从而提高深度神经网络的性能。

    Dec, 2018

  • 发挥正则化策略在具有噪声标签的学习中的潜力

    本研究表明，使用交叉熵损失结合常用的正则化策略，如学习率下降、模型权重平均和数据增强等，可以优于最先进的方法，在处理学习噪声标签的挑战时，采用一种正则化策略组合可能比复杂的算法更有效。

    Jul, 2023

  • 噪声鲁棒图像分类的协同网络学习和标签纠正

    提出了一个深度学习神经网络的标签检查和修正方法，该方法结合了小损失选择和噪声校正的思想，采用两个不同的网络来通过小损失选择方法训练，并根据两网络的分类误差和同意误差的评估来度量训练数据的置信度，在真实和人工数据集上测试表明该方法优于基准方法。

    Feb, 2022

  • 深度学习下存在噪声标签的图像分类：综述

    本文介紹關於使用深度學習算法處理帶有噪聲標籤的問題，針對噪聲建立噪聲模型和使用魯棒損失、正則化等方法建立魯棒算法兩種子群進行了綜述。

    Dec, 2019

  • 从严重标签噪声中提炼有效的监督

    该论文提出了一种全新的训练深度神经网络的方法，在标签噪音的情况下拥有高稳健性，通过利用小的可信集合来估计样本权重和伪标签以重复使用它们进行监督训练。该方法在各种类型的标签噪声和大规模真实世界标签噪声数据集上取得了最新的最优表现。

    Oct, 2019

  • 对抗噪声标签的稳健特征学习

    This paper proposes a method to improve the robustness of deep learning models in the presence of noisy labels by utilizing unsupervised learning and cluster regularization.

    Jul, 2023

  • 基于半监督两阶段方法的噪声标签学习

    本研究提出了一种应对嘈杂标签的无监督半监督深度神经网络学习框架，通过在噪声图像标注中识别出标签准确度较高的部分数据，并利用半监督学习方式训练深度神经网络以更好地利用整个数据集。

    Feb, 2018

  • 减轻样本选择中的记忆化对于带有噪声标签的学习

    本研究提出了一种基于类别惩罚标签的强有力标准，通过平均预测置信度我们得到了适当的惩罚标签，在各个观察到的标签中达到高值，以强化对数量噪声标记的惩罚。在各种场景中，使用这些标准进行样本选择，相比现有方法，网络的学习过程对噪声标签变得更加稳健。

    Jul, 2021

  • 学习噪声标签的联合优化框架

    本文提出了一种利用联合优化框架来学习深度神经网络参数和估算真实标签的方法，以克服在噪声标签数据集上进行训练导致性能下降的问题，实验结果表明该方法在解决 CIFAR-10 噪声数据集和 Clothing1M 数据集分类问题上优于其他最先进的方法。

    Mar, 2018