Jan, 2024

通过少量人机交互改进学习在标签噪声下的表现

PDF
TL;DR利用佩戴式技术进行健康监测时，提出了 Few-Shot Human-in-the-Loop Refinement（FHLR）方法，通过使用弱标签和专家修正，结合加权参数平均，实现了从噪声标签学习的改进，并在健康感知基准测试中取得了较好的性能。
wearable technologiesquality labelsnoisy label learningfew-shot human-in-the-loop refinementhealth sensing benchmarks
发现论文，激发创造
  • 当联合学习遇到噪声标签时，重审早期学习正则化

    FLR 是一种创新策略，通过生成新的伪标签并将本地和全局模型的预测相结合，有效地应对联邦学习中的标签噪声问题，提高全局模型在不同设置下的准确性并防止记忆嘈杂的标签，从而改善在标签准确性有误的 FL 环境中的泛化能力。

    Feb, 2024

  • 通过人类反馈提高分类性能：标注一部分，剩下的我们来标注

    借助大语言模型，本文着眼于通过少量标注样本来显著提高模型准确性，从而通过持续的人类反馈循环改进人工智能模型的准确度、回归率和精确度。通过在金融短语库、银行、Craigslist、Trec 和亚马逊评论数据集上的基准测试，证明了即使只有少量标注样本，我们也能超过零样本大语言模型的准确性，提供更好的文本分类性能，而无需手动标记数百万行数据。

    Jan, 2024

  • 存在高标签噪声的不平衡医学图像分类任务的主动标签精炼强化训练

    这篇研究提出了一种两阶段的方法，结合学习与不确定标签以及主动学习，来提高医学图像分类在存在噪声标签的情况下的鲁棒性，并通过有限的注释预算迭代地改进数据集的质量。同时，引入了新颖的梯度方差方法，辅助基于损失函数的样本选择，同时采样了少数类别样本，以处理类别不平衡问题。实验证明，该方法优于之前的方法，避免将较干净的少数类别样本错误地分类为主要是噪声的样本。

    Jul, 2024

  • 通过本地自我正则化实现对抗噪声标签的联邦学习

    本文针对联邦学习中标签噪声频繁存在的问题提出一种本地自我正则化的方法，通过模型蒸馏有效地规范本地训练过程，并且可以在各种噪声水平下实现显著的噪声抵抗力，并在 Clothing1M 真实数据集上取得卓越的表现。

    Aug, 2022

  • 从严重标签噪声中提炼有效的监督

    该论文提出了一种全新的训练深度神经网络的方法，在标签噪音的情况下拥有高稳健性，通过利用小的可信集合来估计样本权重和伪标签以重复使用它们进行监督训练。该方法在各种类型的标签噪声和大规模真实世界标签噪声数据集上取得了最新的最优表现。

    Oct, 2019

  • 学习中的确认偏见问题：以标签噪声为手段进行打击

    通过融合伪标记和置信度估计技术，Robust LR 方法成功地改善了数据标签噪声和确认偏差，并在以不同级别合成噪声的 CIFAR 和真实噪声的 Mini-WebVision 和 ANIMAL-10N 三个数据集上实现了最先进的性能。

    Dec, 2021

  • 从含有噪声标签的数据中学习如何学习

    本文提出一种噪声容忍的训练算法，其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练，该元学习方法训练模型，以便在使用每个设置的合成噪声标签进行一次梯度更新后，模型不会过度拟合特定的噪声，从而提高深度神经网络的性能。

    Dec, 2018

  • 数据中心机器学习的重新标记方法

    本文介绍了一种简单的方法，通过使用模型的预测结果，找到并重新标记噪声数据，以解决部分手动标记数据质量不高的问题，并在多项深度学习任务中取得 90 分以上的成绩。实验结果和人类评价结果验证了该方法的有效性。

    Feb, 2023

  • 权值与保真度加权学习

    本文提出了一种基于半监督的 “保真度加权学习” 方法，通过利用高质量数据的后验概率调节参数的更新，使用弱标记数据对深度神经网络进行训练，同时提高任务相关数据表示的可靠性。在信息检索和自然语言处理领域中，我们的方法优于现有的半监督学习方法，表明该方法能更好地利用强弱标签数据，提高模型性能。

    Nov, 2017

  • 带噪声标签的小样本学习

    介绍了在 few-shot learning（小样本学习）中应对 Label 干扰的技术方法，提出了一种基于 Transformer 的模型（TraNFS）和特征聚合方法，通过在嘈杂的数据集上的测试，验证了这些方法的有效性。

    Apr, 2022