CVPRMay, 2021

大规模图像分类中相关的输入相关标签噪音

PDF
TL;DR提出一种基于概率模型的方法来对大规模图像分类数据集中的标签噪声进行建模并进行准确性优化，该方法通过在神经网络分类器的最终隐藏层上放置多变量正态分布的潜在变量来建立噪声的协方差矩阵，并且在多个基准测试数据集上表现出显著提高的准确性。
image classificationlabel noiseneural networkcovariance matrixaccuracy improvement
发现论文，激发创造
  • 训练深度判别神经网络对抗标签噪声的鲁棒性

    该论文提出了一种基于无标签干扰数据集训练深度卷积神经网络的新型框架，并使用一个无向图模型来描述干净和嘈杂标签之间的关系，在监督学习过程中学习这个模型。该模型在图像标注问题上应用，并在 CIFAR-10 和 MS COCO 数据集上展示出有效的标注效果和在训练中实现了减少标签噪声的效果。

    May, 2017

  • 基于二阶方法的实例相关标签噪声学习

    该研究提出一种二阶方法来处理深度神经网络训练中的标签噪音问题，使用此方法可以解决由任务难度引起的实例相关的噪音，提供一个新的损失函数来处理实例相关噪音，进而能够使用已有的类相关噪音的解决方案来处理该问题。

    Dec, 2020

  • 重新思考标签价值：针对实例相关的标签噪声学习

    本文介绍了基于结构因果模型的深度生成模型算法，解决了大规模数据集中存在的标签噪声问题。该算法有效利用了噪声标签的监督信息，并在合成和实际的噪声标签数据集上表现优异。

    May, 2023

  • 带有噪声标签的高维度学习

    该研究论文探讨了高维二分类在具有条件性噪声标签的情况下的理论视角。通过研究具有标签噪声感知损失函数的线性分类器在维度 p 和样本数 n 都很大且可比时的行为，利用随机矩阵理论和高斯混合数据模型，证明了当 p 和 n 趋近于无穷时，线性分类器的性能收敛至涉及数据的标量统计量的一个界限。重要的是，我们的发现表明低维处理标签噪声的直觉在高维中不成立，即低维中的最优分类器在高维中出现显著失败。基于我们的推导，我们设计了一种优化方法，经证明在处理高维噪声标签方面更加高效。我们的理论结论在真实数据集上的实验证实了我们的优化方法优于考虑的基准方法。

    May, 2024

  • 依赖特征的标记噪声学习：一种渐进式方法

    本文提出了一个基于特征依赖的标签噪声处理算法，该算法采用渐进式标签校正策略，通过理论证明其可以适应广泛的噪声模式并收敛于贝叶斯分类器，实验证明其优于 SOTA 基线算法且对各种噪声类型和程度具有鲁棒性。

    Mar, 2021

  • 深度学习对大规模标签噪声具有强韧性

    本研究证明，基于深度神经网络的图像分类模型可以从含有数量远多于准确标签的训练数据中进行有效学习，表现出良好的测试性能提升，这种学习需要增加数据集大小作为代价。

    May, 2017

  • 从严重标签噪声中提炼有效的监督

    该论文提出了一种全新的训练深度神经网络的方法，在标签噪音的情况下拥有高稳健性，通过利用小的可信集合来估计样本权重和伪标签以重复使用它们进行监督训练。该方法在各种类型的标签噪声和大规模真实世界标签噪声数据集上取得了最新的最优表现。

    Oct, 2019

  • 动态分布校准解决实例相关标签噪声问题

    本文采用动态分布校准策略来解决与实例相关的标签噪声产生的严重分布偏移问题，提出基于多元高斯分布的平均值和协方差的两种方法来校准偏移后的分布，并在合成标签噪声和真实未知噪声数据集上进行了实验，验证了方法的实用性和有效性。

    Oct, 2022

  • 基于结构性因果模型的实例相关标签噪声学习

    本文提出了一种利用结构因果模型的生成方法来应对标签噪声的问题，证明了合理地建模示例有助于识别标签噪声转移矩阵，从而带来更好的分类器，该方法在合成和真实世界的标签噪声数据集上均优于所有最先进的方法。

    Sep, 2021

  • 利用邻域一致性进行含噪标签学习

    该研究介绍了一种利用特征空间中训练样例的相似性，鼓励每个样例预测与其最近邻居相似的学习方法，用于从带有噪声标签的数据中学习，并且在多个数据集上展现出良好的分类精度。

    Feb, 2022