学习时间序列的时间标签噪声

Feb, 2024

Learning from Time Series under Temporal Label Noise

Sujay Nagaraj, Walter Gerych, Sana Tonekaboni, Anna Goldenberg, Berk Ustun...

TL;DR多个连续分类任务受到随时间变化的标签噪声的影响。我们首次提出并规范了时间标签噪声问题，该问题在时间序列连续分类中尚未被研究。在这个设置中，多个标签按顺序记录，同时被一个时间相关的噪声函数所污染。我们首先证明了建模标签噪声函数的时间特性的重要性以及现有方法的性能不足。然后，我们提出了一种可以直接从数据中估计时间标签噪声函数从而训练耐噪声分类器的方法。我们展示了我们的方法在存在多样的时间标签噪声函数的情况下使用真实和合成数据可以实现最先进的性能。

Abstract

Many sequential classification tasks are affected by label noise that varies over time. Such noise can cause label quality to improve, worsen, or periodically change over time. We first propose and formalize temp

label noise temporal label noise sequential classification time series noise-tolerant classifiers

发现论文，激发创造

从时间上不精确的标签中学习时间序列检测模型

本研究探讨一种新的低质量标签学习问题：从时间不精确的标签中学习时间序列检测模型，在移动健康研究等领域中往往出现这种情况。我们提出了一个通用的学习框架，可以适应不同的基分类器和噪声模型，并利用真实的移动健康数据来演示该框架显著优于其他方法。

Nov, 2016

依赖特征的标记噪声学习：一种渐进式方法

本文提出了一个基于特征依赖的标签噪声处理算法，该算法采用渐进式标签校正策略，通过理论证明其可以适应广泛的噪声模式并收敛于贝叶斯分类器，实验证明其优于 SOTA 基线算法且对各种噪声类型和程度具有鲁棒性。

Mar, 2021

通过噪声建模实现文本分类标签噪声的鲁棒性

该论文研究了 NLP 中文本分类的标签噪声问题，提出了一种基于 beta 混合模型的辅助噪声模型，通过此模型可以减轻标签噪声对分类器的影响，提高分类准确率并防止过度拟合。

Jan, 2021

分析标签噪声下分类器的鲁棒性

该研究探讨了标签噪声分类器的稳健性，旨在提高模型对复杂实际场景中的噪声数据的抵抗能力，并通过整合对抗机器学习和重要性重新加权技术来解决标签噪声对实际应用的影响。

Dec, 2023

标签噪声下的鲁棒长尾学习

研究了在长尾标签分布下标签噪声问题，提出了一种新的原型噪声检测方法及一个鲁棒的框架，该框架通过软伪标签技术和半监督学习算法进一步提高了泛化性能，并且在基准和真实数据集上表现优于现有基线模型，尤其是比 DivideMix 模型测试精度高出 3％。

Aug, 2021

从含有噪声标签的数据中学习如何学习

本文提出一种噪声容忍的训练算法，其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练，该元学习方法训练模型，以便在使用每个设置的合成噪声标签进行一次梯度更新后，模型不会过度拟合特定的噪声，从而提高深度神经网络的性能。

Dec, 2018

DNN 文本分类的有效标签噪声模型

本文提出了一种训练深度网络抵抗标签噪声的方法，通过引入非线性处理层（噪声模型）来将标签噪声的统计模型化到卷积神经网络中，通过实验证明这种方法使得 CNN 可以学习到更好的句子表示，即使在极端的标签噪声情况下仍然很稳健。同时，本文发现正确的噪声模型初始化和正则化对训练结果至关重要，而和图像分类不同的是，改变 batch size 并不会对分类性能有明显影响。

Mar, 2019

使用具有运动编码的随机过程模型稳健地学习噪声时间序列集合

使用混合高斯过程和学习的谱核函数的潜变量模型方法来处理具有任意时间序列长度的噪声时间序列数据，使得在多个潜在随机过程上学习多个动力模型成为可能。

Feb, 2024

标签噪声：纠正一次修正

训练神经网络分类器在带有标签噪声的数据集上存在过拟合的风险，为了解决这个问题，研究人员探索了更加稳健的替代损失函数，然而，许多这些替代方法都是启发式的，仍然容易受到过拟合或欠拟合的影响。在本研究中，我们提出了一种更直接的方法来应对标签噪声引起的过拟合问题，我们观察到标签噪声的存在意味着噪声泛化风险的下界，基于这一观察，我们提出在训练过程中对经验风险施加一个下界来减轻过拟合问题。我们的主要贡献是提供了理论结果，给出了不同损失函数下噪声风险的最小可达下界的明确、易于计算的界限。我们通过实验证明，在各种设置中使用这些界限极大地提高了鲁棒性，几乎没有额外的计算成本。

Jul, 2023

NAT: 受噪声影响的训练用于强健神经序列标记

本文提出了两种噪声感知训练对象来提高对受干扰输入的序列标记的鲁棒性，一种是使用混合干净和嘈杂样本的数据增强方法来训练神经模型，另外一种是通过稳定性训练算法鼓励模型生成噪声不变的潜在表示，实验结果证实，这种方法能够提高流行的序列标记模型的鲁棒性，保持原始输入的准确性。

May, 2020