提出了一种称为 MSLG 的元软标签生成算法,通过元学习技术来共同生成软标签并以端到端的方式学习深度神经网络参数以解决数据集中嘈杂标签引起的性能下降问题。
Jul, 2020
本文提出了一种基于元学习方法的元 - 梯度下降模型,可自适应地根据当前的训练问题迭代地获取校正后的软标签,无需手动预设超参数,从而解决了深度神经网络容易过度拟合含有噪声标签的训练数据的问题。
Aug, 2020
本文提出一种噪声容忍的训练算法,其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练,该元学习方法训练模型,以便在使用每个设置的合成噪声标签进行一次梯度更新后,模型不会过度拟合特定的噪声,从而提高深度神经网络的性能。
Dec, 2018
提出了一种利用可学习标签和动态正则化来解决固定标签产生的过拟合、泛化性能下降等问题的框架方法,并应用于数据集噪声过大的情况中取得了显著的改进。
Sep, 2020
本文提出了一种基于元学习的标签纠正框架(MLC),旨在解决数据训练集中标签嘈杂或不确定性等问题,通过调整权重甚至直接纠正嘈杂标签来优化训练。在文本分类等任务中验证了该方法的有效性。
Nov, 2019
该研究论文提出了 Meta Self-Refinement (MSR) 框架,用于有效地应对来自弱监督源的噪声标签,从而训练出噪声鲁棒性较强的深度神经网络模型。在八个自然语言处理基准测试中广泛实验,证明 MSR 在所有设置下都能够抵抗噪声,并且在准确率和 F1 分数上优于现有技术最多 11.4% 和 9.26%。
May, 2022
本文介紹關於使用深度學習算法處理帶有噪聲標籤的問題,針對噪聲建立噪聲模型和使用魯棒損失、正則化等方法建立魯棒算法兩種子群進行了綜述。
Dec, 2019
通过使用混合模型从局部损失分布学习样本权重,我们提出了一种利用合成样本训练模型的框架来减轻噪音标签影响,并通过逐渐修正噪音标签估计软目标,得到了更为准确的近似真实标签和更加独立和清晰界定的聚类,实验证明我们的方法在两个基准数据集 (CIFAR-10 和 CIFAR-100) 及两个大规模真实世界数据集 (Clothing1M 和 Webvision) 上优于现有技术方法且具备可靠的学习表达能力。
Jun, 2024
该论文提出了一种基于无标签干扰数据集训练深度卷积神经网络的新型框架,并使用一个无向图模型来描述干净和嘈杂标签之间的关系,在监督学习过程中学习这个模型。该模型在图像标注问题上应用,并在 CIFAR-10 和 MS COCO 数据集上展示出有效的标注效果和在训练中实现了减少标签噪声的效果。
May, 2017
本文综述了深度学习中标签噪声的学习问题,提供了 62 种最新的鲁棒训练方法,并系统性比较了六个评估指标。同时,分析了噪声估计率和评估方法,并提出了未来的几个研究方向。