非可分解性能度量上的多类别带噪标签学习
本文研究了在训练数据中存在标签噪声的情况下，风险最小化的鲁棒性。我们探讨了一种损失函数对于噪声的容忍度，并证明了 0-1 损失、Sigmoid 损失、Ramp 损失和 Probit 损失满足该条件，其中选择足够大的参数可以使其对非均匀标签噪声具有容忍度。在大量实证研究中，与 SVM 算法相比，我们证明了使用 0-1 损失、Sigmoid 损失和 Ramp 损失的风险最小化更加鲁棒。
Mar, 2014
本文研究了一个分类问题，其中样本标签被随机损坏。我们解决了如何在有标签噪声的情况下最好地利用传统分类问题的丰富代理损失函数，通过重要性重新加权来使用任何代理损失函数进行带有噪声标签的分类，以及如何获得噪声率的问题。
Nov, 2014
本文提出一种自适应线性化技术，实现了基于TPR和TNR的点随机更新，通过提出SPADE和STAMP方法，可以应对实际中出现的数据标签不平衡及其他特殊要求，并获得了显着的速度优势和精准度，同时确保了收敛性。
May, 2015
本文提出一种新的损失函数家族--对等损失函数，用于解决监督学习中的噪声标签问题，不需要事先指定噪声率，可以获得与训练数据相同的最优分类器，并进行了大量实验验证，是解决标签可能含有噪声的训练中的一种稳健方法。
Oct, 2019
本文研究了多类分类中标签噪声的问题，证明准确度度量本身可以是健壮的，并探讨了噪声数据下的训练和验证问题，同时针对模型选择问题提出了一种新的框架NTS，并提供了相应的代码。
Dec, 2020
本文通过理论分析探讨了在样本噪声存在的情况下，仅使用噪声样本能否学习到可靠模型的问题。作者认为，没有额外假设条件的情况下，经验风险最小化可以达到最优风险上限。此外，文章还讨论了0-1损失的极小极大下限问题，认为纯使用噪声样本无法学习。
Jun, 2023
在存在噪音标签的情况下，我们研究了在线分类问题。通过一般的核来建模噪音机制，为任何特征-标签对指定了一个（已知）噪音标签分布集合。每个时间步骤，对手根据实际的特征-标签对从核指定的分布集合中选择一个未知分布，并根据所选分布生成噪音标签。学习者根据迄今为止观察到的实际特征和噪音标签进行预测，如果预测与真实情况不同，则遭受损失1（否则为0）。预测质量通过计算有限时间视野T上的极小化风险来量化。我们证明了对于广泛的自然噪音核、对手选择的特征和有限类别的标记函数，极小化风险可以上界独立于时间视野并以标记函数类别尺寸的对数形式增长。然后，我们通过随机顺序覆盖的概念将这些结果推广到无限类别和随机生成的特征。我们的结果通过对在线条件分布估计的新颖归约提供了直观理解，并且扩展并包含了Ben-David等人（2009）的研究结果，具有显著的广泛性。
Sep, 2023
该研究论文探讨了高维二分类在具有条件性噪声标签的情况下的理论视角。通过研究具有标签噪声感知损失函数的线性分类器在维度p和样本数n都很大且可比时的行为，利用随机矩阵理论和高斯混合数据模型，证明了当p和n趋近于无穷时，线性分类器的性能收敛至涉及数据的标量统计量的一个界限。重要的是，我们的发现表明低维处理标签噪声的直觉在高维中不成立，即低维中的最优分类器在高维中出现显著失败。基于我们的推导，我们设计了一种优化方法，经证明在处理高维噪声标签方面更加高效。我们的理论结论在真实数据集上的实验证实了我们的优化方法优于考虑的基准方法。
May, 2024
本研究解决了多类别、实例相关标签噪声下的学习问题，提出了一种新的理论框架，将标签噪声下的学习视为一种领域适应。引入的相对信号强度概念为从噪声到干净后验的可转移性提供了量化指标，并支持了噪声无知经验风险最小化原则。通过将该原则应用于自监督特征提取器的线性分类器，我们在CIFAR-N数据挑战中获得了最先进的表现。
Oct, 2024