CVPRDec, 2020

多目标插值训练用于标签噪声鲁棒性

PDF
TL;DR通过对比学习和分类联合相互帮助，以对抗标签噪声提高性能，同时提出了一种新的标签噪声检测方法，通过准确识别有争议的 per-sample soft-labels 来防止噪音记忆并改进表示学习。
neural networkslabel noisecontrastive learningclassificationsemi-supervised learning
发现论文，激发创造
  • 对比学习提高模型在标签噪声下的鲁棒性

    本论文讨论如何提高基于深度神经网络分类器在训练数据中鲁棒性以解决标签噪声问题，通过代替分类交叉熵损失为适应标签噪声的损失函数，或者改变训练样本的权重来缓解标签噪声的影响，并介绍一种基于对比学习技术来初始化有监督鲁棒方法以解决高标签噪声下的图像分类问题的方法。

    Apr, 2021

  • 对抗性训练的向导插值方法

    本文提出了一种 Guided Interpolation Framework （GIF）框架，该框架利用前一轮 epoch 的 meta 信息来引导数据插值，达到提高可攻击性数据的比例从而增强鲁棒性、减少模型各类之间的线性关系、鼓励模型在每个类别簇中不变地进行预测的目的。实验证明，GIF 确实可以在各种 Adversarial Training 方法和各种数据集上增强对抗鲁棒性。

    Feb, 2021

  • 插值一致性训练用于半监督学习

    通过 Interpolation Consistency Training 的算法来对半监督学习场景下的深度神经网络进行训练，该算法促进了标记分布的一致性并在高可信度值下减少过度拟合。

    Mar, 2019

  • MILD: 建模实例学习动态以应对带噪声标签的学习

    本研究提出了一种基于韦布尔混合模型的迭代选择方法来识别干净数据，从而减少网络记忆对虚假标签数据的影响，在模型训练中使用最终的干净子集。

    Jun, 2023

  • 通过概率转移矩阵减轻图像分类中的噪声标签影响

    本研究提出了一种插件模块：噪声忽略块（NIB），用于从带有噪声标签的训练集中分离出艰难的样本和错标的样本，并进一步提高用于处理这种嘈杂标签的图像分类网络的准确性。

    Oct, 2021

  • 训练深度判别神经网络对抗标签噪声的鲁棒性

    该论文提出了一种基于无标签干扰数据集训练深度卷积神经网络的新型框架，并使用一个无向图模型来描述干净和嘈杂标签之间的关系，在监督学习过程中学习这个模型。该模型在图像标注问题上应用，并在 CIFAR-10 和 MS COCO 数据集上展示出有效的标注效果和在训练中实现了减少标签噪声的效果。

    May, 2017

  • 插值对抗训练：在不牺牲过多准确性的情况下实现强大的神经网络

    本论文提出了一种名为 Interpolated Adversarial Training 的对抗性训练方法，它采用最近提出的基于插值的训练方法来提高对抗鲁棒性，并以 CIFAR-10 数据集为例进行了实验证明，相较传统对抗性训练方法，该方法可以在保持对抗鲁棒性的同时取得更好的泛化性能与更低的标准测试误差。

    Jun, 2019

  • LossMix: 简化和泛化 Mixup 以用于目标检测和更多领域

    该研究提出了一种新的概念框架 —— 监督插值，通过松弛和概括 Mixup，可以有效地规范混合数据的训练，进而提出了一种名为 LossMix 的简单却灵活且有效的正则化方法，并设计了一种两阶段的域混合方法，借助 LossMix 超越了 Adaptive Teacher，并在无监督领域适应中有了新的突破。

    Mar, 2023

  • 使深度神经网络对标签噪声具有鲁棒性：一种损失修正方法

    该论文提出了一种基于理论的方法来训练深度神经网络，包括循环网络，使其适用于存在类别相关标签噪声的情况，并提出两种提高模型噪声稳健性的损失函数矫正方法和一种端到端的噪声估计框架并进行了大量实验证明了这个方法的实用性和有效性。

    Sep, 2016

  • ProMix：最大化干净样本效用来对抗标签噪声

    本文提出了一种新颖的嘈杂标记学习框架 ProMix，通过高置信度匹配选择技术，最大限度地提高干净样本的效用，实验结果表明，该方法在 CIFAR-10N 和 CIFAR-100N 数据集上都能够取得比最佳基线方法更好的表现。

    Jul, 2022