AAAIDec, 2021

深入研究样本损失曲线以应对嘈杂和不平衡的数据

PDF
TL;DR该论文提出了一种名为 CurveNet 的曲线感知网络，并采用探测和分配的方法，通过元学习自适应地分配适当的样本权重，以解决深度神经网络中常见的数据偏见和样本不平衡问题，并利用 skip layer meta optimization 方法加速了训练速度，该方法在多项具有挑战性的评估指标上取得了最先进的性能。
deep neural networkscorrupted labelsclass imbalancesample re-weightingcurvenet
发现论文，激发创造
  • 深度学习中学习重新加权示例的重新实现

    通过元训练和在线权重逼近方法，本文旨在解决使用深度神经网络时出现的噪声标签和训练集偏差对模型表现造成的问题，并通过使用充满挑战的不平衡图像数据集进行皮肤癌检测的真实问题来验证这一方法。

    May, 2024

  • 通过防止样本选择的偏差来学习不平衡有噪声数据

    提出了一种用于处理不平衡数据集中的噪声标签的简单而有效的方法，该方法基于类平衡的样本选择（CBS），结合置信度的样本增强（CSA），利用模型的训练动态纠正噪声样本的标签，并采用一致性正则化来提升模型性能。综合实验结果表明，我们的方法在不平衡情况下具有良好的效果和优越性。

    Feb, 2024

  • 减轻样本选择中的记忆化对于带有噪声标签的学习

    本研究提出了一种基于类别惩罚标签的强有力标准，通过平均预测置信度我们得到了适当的惩罚标签，在各个观察到的标签中达到高值，以强化对数量噪声标记的惩罚。在各种场景中，使用这些标准进行样本选择，相比现有方法，网络的学习过程对噪声标签变得更加稳健。

    Jul, 2021

  • 元学习软标签校正器学习去噪标签

    本文提出了一种基于元学习方法的元 - 梯度下降模型，可自适应地根据当前的训练问题迭代地获取校正后的软标签，无需手动预设超参数，从而解决了深度神经网络容易过度拟合含有噪声标签的训练数据的问题。

    Aug, 2020

  • APAM：自适应预训练和自适应元学习的语言模型，用于噪声标签和长尾学习

    本文提出了一种基于对比学习的通用框架，通过特定的学习方法，包括 re-weighting 模块和多项式交叉熵损失和 focal loss 的结合，有效解决了自然语言处理中长尾问题和噪声标签的负面影响。

    Feb, 2023

  • 噪声标签学习的元标签校正

    本文提出了一种基于元学习的标签纠正框架（MLC），旨在解决数据训练集中标签嘈杂或不确定性等问题，通过调整权重甚至直接纠正嘈杂标签来优化训练。在文本分类等任务中验证了该方法的有效性。

    Nov, 2019

  • 使用软标签的合成样本减轻噪声监督

    通过使用混合模型从局部损失分布学习样本权重，我们提出了一种利用合成样本训练模型的框架来减轻噪音标签影响，并通过逐渐修正噪音标签估计软目标，得到了更为准确的近似真实标签和更加独立和清晰界定的聚类，实验证明我们的方法在两个基准数据集 (CIFAR-10 和 CIFAR-100) 及两个大规模真实世界数据集 (Clothing1M 和 Webvision) 上优于现有技术方法且具备可靠的学习表达能力。

    Jun, 2024

  • 用于嘈杂图像分类的学习顾问网络

    本文提出了基于顾问网络的新概念，旨在解决图像分类中存在噪声标签的问题。通过元学习方法训练顾问网络，不仅可以提高分类器的性能，还可以利用含有噪声标签的数据。该方法在 CIFAR10、CIFAR100 和 Clothing1M 数据集上的实验结果显示出了最先进的效果。

    Nov, 2022

  • 具有损失不确定性的样本选择及其在带噪声标签学习中的应用

    本研究提出了一种无标签学习的新方法，将区间估计引入了样本选择过程，以更好地探索未被充分选择的正确标注但看似贴错标签的较大损失数据和代表性差的数据，提高了误标噪声下的学习鲁棒性。

    Jun, 2021

  • MetaLabelNet: 从噪声标签中学习生成软标签

    提出了一种标签噪声鲁棒的学习算法，该算法使用具有元目标的软标签来训练基础分类器，软标签由数据实例的提取特征生成，并使用单层感知器网络进行学习，算法使用少量的无噪声数据作为元数据，实验结果表明，该算法优于现有基线。

    Mar, 2021