ICLRNov, 2015

含噪标签深度 CNN 的辅助图像正则化

PDF
TL;DR研究如何使用图像正则化技术结合 Alternating Direction Method of Multipliers 算法训练深度卷积神经网络 (CNN)，从而有效解决真实数据集中由业余用户提供的标签错误导致的训练样本混淆问题。经过全面实验，证明该方法可以提高深度卷积神经网络的鲁棒性，有效抵抗训练数据中的标签噪声。
deep convolutional neural networksmislabelingimage regularizationalternating direction method of multipliers (admm)label noise
发现论文，激发创造
  • 训练深度判别神经网络对抗标签噪声的鲁棒性

    该论文提出了一种基于无标签干扰数据集训练深度卷积神经网络的新型框架，并使用一个无向图模型来描述干净和嘈杂标签之间的关系，在监督学习过程中学习这个模型。该模型在图像标注问题上应用，并在 CIFAR-10 和 MS COCO 数据集上展示出有效的标注效果和在训练中实现了减少标签噪声的效果。

    May, 2017

  • DEAL: 图像分类的深度证据主动学习

    本文提出一种新的主动学习算法，将 CNN 模型的输出从 softmax 替换为 Dirichlet 值，实现从未标记数据中提取最具信息量的标记数据集，该方法在多项数据集和医学图像识别领域中与其他主动学习方法相比均具有更高的性能表现和易于实现且不需要大量计算资源的优点。

    Jul, 2020

  • 使用有噪声的标签训练卷积神经网络

    本论文探究了在实际情况中，数据标注不可避免地有可能存在噪声标签的情况下，利用引入噪声层的方法，在 Convolutional Network 模型上进行判别性训练以获得更好的性能。同时在多个数据集上进行了实验，包括在 ImageNet 分类基准测试上的大规模试验。

    Jun, 2014

  • 对抗噪声标签的稳健特征学习

    This paper proposes a method to improve the robustness of deep learning models in the presence of noisy labels by utilizing unsupervised learning and cluster regularization.

    Jul, 2023

  • 减轻样本选择中的记忆化对于带有噪声标签的学习

    本研究提出了一种基于类别惩罚标签的强有力标准，通过平均预测置信度我们得到了适当的惩罚标签，在各个观察到的标签中达到高值，以强化对数量噪声标记的惩罚。在各种场景中，使用这些标准进行样本选择，相比现有方法，网络的学习过程对噪声标签变得更加稳健。

    Jul, 2021

  • 使用 Dropout 正则化从嘈杂标签中学习深度网络

    该篇论文提出了一种纠正深度神经网络中标签不准确的技术：通过增加一个噪声模型的 softmax 层，采用端到端的随机梯度下降来优化网络以及噪声模型，借助 dropout 正则化防止噪声模型过于简单。在 CIFAR-10 和 MNIST 数据集上的数值实验显示，该 dropout 技术优于最先进的方法。

    May, 2017

  • 基于不确定性的噪声图像标签检测和重新标记

    本文提出了一种基于深度神经网络的预测不确定性来识别训练数据中存在的噪声标签并通过迭代程序实现清洗的方法，该方法在 CIFAR-10 和 CIFAR-100 上有良好的性能表现。

    May, 2019

  • 小数据集有效训练的替代正则化方法

    通过使用替代的正则化策略来推动小图像分类数据集上的有监督学习，研究取得了与最先进的方法相当的测试准确率。

    Sep, 2023

  • 噪声鲁棒图像分类的协同网络学习和标签纠正

    提出了一个深度学习神经网络的标签检查和修正方法，该方法结合了小损失选择和噪声校正的思想，采用两个不同的网络来通过小损失选择方法训练，并根据两网络的分类误差和同意误差的评估来度量训练数据的置信度，在真实和人工数据集上测试表明该方法优于基准方法。

    Feb, 2022

  • 从含有噪声标签的数据中学习如何学习

    本文提出一种噪声容忍的训练算法，其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练，该元学习方法训练模型，以便在使用每个设置的合成噪声标签进行一次梯度更新后，模型不会过度拟合特定的噪声，从而提高深度神经网络的性能。

    Dec, 2018