Mar, 2023

结合类中心点之间距离和离群值折扣以改善带有噪声标签的学习

PDF
TL;DR本研究提出了一种新的方法来解决在存在噪声标签的情况下训练机器学习模型的挑战，通过结合在物品潜在空间中到类别质心的距离的巧妙利用与一种减少远离所有类别质心（即异常值）样本重要性的折扣策略，我们的方法有效地解决了噪声标签问题，并在几个流行的基准数据集上进行了广泛的实验，结果表明我们的方法在分类准确性方面优于现有技术，特别是在数据集包含噪声标签的情况下。
发现论文，激发创造
  • 利用邻域一致性进行含噪标签学习

    该研究介绍了一种利用特征空间中训练样例的相似性，鼓励每个样例预测与其最近邻居相似的学习方法，用于从带有噪声标签的数据中学习，并且在多个数据集上展现出良好的分类精度。

    Feb, 2022

  • 训练深度判别神经网络对抗标签噪声的鲁棒性

    该论文提出了一种基于无标签干扰数据集训练深度卷积神经网络的新型框架，并使用一个无向图模型来描述干净和嘈杂标签之间的关系，在监督学习过程中学习这个模型。该模型在图像标注问题上应用，并在 CIFAR-10 和 MS COCO 数据集上展示出有效的标注效果和在训练中实现了减少标签噪声的效果。

    May, 2017

  • 对抗噪声标签的稳健特征学习

    This paper proposes a method to improve the robustness of deep learning models in the presence of noisy labels by utilizing unsupervised learning and cluster regularization.

    Jul, 2023

  • 使用软标签的合成样本减轻噪声监督

    通过使用混合模型从局部损失分布学习样本权重，我们提出了一种利用合成样本训练模型的框架来减轻噪音标签影响，并通过逐渐修正噪音标签估计软目标，得到了更为准确的近似真实标签和更加独立和清晰界定的聚类，实验证明我们的方法在两个基准数据集 (CIFAR-10 和 CIFAR-100) 及两个大规模真实世界数据集 (Clothing1M 和 Webvision) 上优于现有技术方法且具备可靠的学习表达能力。

    Jun, 2024

  • 使用蒸馏技术从噪声标签中学习

    提出适用于学习有噪声标签的统一蒸馏框架，利用包括一个小的干净数据集和知识图谱中的标签关系来 “对冲” 学习风险，并提出了一套新的基准数据集，用于评估学习有噪声标签的任务。实证研究证明了我们提出的方法在所有领域中的有效性。

    Mar, 2017

  • 从含有噪声标签的数据中学习如何学习

    本文提出一种噪声容忍的训练算法，其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练，该元学习方法训练模型，以便在使用每个设置的合成噪声标签进行一次梯度更新后，模型不会过度拟合特定的噪声，从而提高深度神经网络的性能。

    Dec, 2018

  • 不均衡数据的聚类和学习

    本文提出了一种基于聚类的过采样方法（Clustering Based Oversampling），该方法利用少数派样本与其聚类中心点之间的距离来生成新的少数派样本，它在不影响多数派学习的基础上，利用少数派样本的分布结构改善了在类别不平衡数据上的学习，并通过采取措施以防止异常值产生和过度拟合。深度神经网络实验结果表明，与其他合成数据采样技术相比，该方法在不同数据集上的评估指标上表现更好。

    Nov, 2018

  • 噪声标签学习的成对相似度分布聚类

    通过对样本进行简单而有效的选择算法，我们将训练样本划分为一个干净集和一个带噪声集，使用高斯混合模型来建模相似样本对的相似度分布，从而能够更可靠地判断各个样本的标签置信度，并在各种基准数据集上展示了超越现有方法的显著改进。

    Apr, 2024

  • 利用类别可学性处理带噪数据

    本文介绍了一种与分类器和训练算法共同作用的在线算法，通过其可提高在可学习类别上的整体性能

    Nov, 2018

  • 噪声标签的深度 k-NN

    本文通过实证研究表明，在初步模型的 logit 层上实施简单的 k 近邻过滤方法能够去除错误标记的训练数据，比许多最近提出的方法产生更准确的模型，并提供了新的统计保证。

    Apr, 2020