利用带噪标签训练的深度神经网络及其应用
本文综述了深度学习中标签噪声的学习问题,提供了 62 种最新的鲁棒训练方法,并系统性比较了六个评估指标。同时,分析了噪声估计率和评估方法,并提出了未来的几个研究方向。
Jul, 2020
本研究证明,基于深度神经网络的图像分类模型可以从含有数量远多于准确标签的训练数据中进行有效学习,表现出良好的测试性能提升,这种学习需要增加数据集大小作为代价。
May, 2017
本文提出一种噪声容忍的训练算法,其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练,该元学习方法训练模型,以便在使用每个设置的合成噪声标签进行一次梯度更新后,模型不会过度拟合特定的噪声,从而提高深度神经网络的性能。
Dec, 2018
本论文探究了在实际情况中,数据标注不可避免地有可能存在噪声标签的情况下,利用引入噪声层的方法,在 Convolutional Network 模型上进行判别性训练以获得更好的性能。同时在多个数据集上进行了实验,包括在 ImageNet 分类基准测试上的大规模试验。
Jun, 2014
本文提出了一种新的深度学习范式 Co-Teaching,它通过同时运用两个神经网络,自我纠正,相互辅助学习,从而提高了模型在嘈杂标签下的稳健性。
Apr, 2018
利用深度神经网络记忆清晰样本更早的现象,发展一种统计学方法,根据集成学习动态数据中干净和嘈杂数据的差异,改善了噪声标记估计,噪声过滤和指导分类的方法。
Oct, 2022
本文提出了一种基于深度神经网络的预测不确定性来识别训练数据中存在的噪声标签并通过迭代程序实现清洗的方法,该方法在 CIFAR-10 和 CIFAR-100 上有良好的性能表现。
May, 2019
该论文提出了一种基于无标签干扰数据集训练深度卷积神经网络的新型框架,并使用一个无向图模型来描述干净和嘈杂标签之间的关系,在监督学习过程中学习这个模型。该模型在图像标注问题上应用,并在 CIFAR-10 和 MS COCO 数据集上展示出有效的标注效果和在训练中实现了减少标签噪声的效果。
May, 2017
本文提出了一种利用联合优化框架来学习深度神经网络参数和估算真实标签的方法,以克服在噪声标签数据集上进行训练导致性能下降的问题,实验结果表明该方法在解决 CIFAR-10 噪声数据集和 Clothing1M 数据集分类问题上优于其他最先进的方法。
Mar, 2018