缺失标签的大规模多标签学习

Jul, 2013

Large-scale Multi-label Learning with Missing Labels

Hsiang-Fu Yu, Prateek Jain, Purushottam Kar, Inderjit S. Dhillon

TL;DR本文研究多标记问题的通用经验风险最小化框架，提出了一种简单的框架，能高效地解决数据中存在缺失标记和标记量极大的问题。通过特定损失函数的结构，基于该框架设计了有效算法，进一步证明了该框架在存在缺失标记时的形式化过度风险边界。此外，对于低秩促进的迹 - 范数正则化，我们的风险界更紧，表现出更好的泛化性能。最后，在各种基准数据集上进行实验，证明了本方法的优越性以及其可扩展性。

Abstract

The multi-label classification problem has generated significant interest in recent years. However, existing approaches do not adequately address two key challenges: (a) the ability to tackle problems with a large number (say millions) of labels, and (b) the ability to handle data with

multi-label classification label compression empirical risk minimization low-rank promoting trace-norm regularization

发现论文，激发创造

任意损失和模型的多补充、无标签学习

本文提出了一种名为补充标签学习的弱监督学习框架，能从任意数量的补充标签和无标签样本中进行无偏估计的分类风险，并能使用任意损失函数和模型进行训练，同时通过实验验证了该方法的有效性。

Jan, 2020

无任何群组信息的群组鲁棒分类

这项研究提出了一个修订的方法来在完全无偏见的情况下进行训练和验证无偏见模型，通过采用预训练的自监督模型可靠地提取偏见信息，并与我们的验证准则结合使用逻辑调整训练损失函数。我们的实证分析证明了我们的方法克服了所发现的挑战，始终提高了鲁棒准确性，达到与或优于依赖偏见标签进行验证的最先进方法的性能。

Oct, 2023

多标记学习缺失标记的简洁且健壮的损失设计

该论文提出两种简单且有效的基于强大损失设计的方法，通过减少假负例的影响及使用基于缺失标签的最大似然标准来改进多标签学习的性能，从而在大量多标签图像分类数据集上实现了新的最先进的损失函数。

Dec, 2021

具有不完整标签分配的大规模多标签学习

本文研究了多标签学习的不完整标签分配问题，提出了一种名为 MPU 的方法，该方法基于正数和未标记随机梯度下降和堆叠模型，可以同时有效且高效地考虑丢失的标签和标签之间的关联性，从而更好地解决了大规模多标签学习问题。

Jul, 2014

多标记学习的本地 Rademacher 复杂度

本文研究了基于 ERM 的多标签学习算法的本地 Rademacher 复杂度，并提出一种新算法，通过集中在尾奇异值上而不是所有奇异值上，更好地恢复多标签预测器的低秩结构，从而利用标签之间的相关性。我们提出了一种新的条件奇异值阈值算法来解决本文提出的目标函数。实证研究验证了我们的理论结果，并证明了所提出算法的有效性。

Oct, 2014

不同标签函数的协同学习

研究一种协作 PAC 学习的变体，旨在学习每个数据分布的准确分类器，同时最小化从这些数据分布中所抽取的样本数总量。给出基于经验风险最小化算法的学习方法，并且分析依赖于增强的假设类的 VC 维度的上界。在计算效率方面，证明了在一般情况下，基于增强的假设类的 ERM 是 NP 难的，为不存在计算效率高的学习器提供了依据，但对于两种特殊情况，给出了既有样本效率又有计算效率的学习器。

Feb, 2024

重新思考引导信息以利用无标签样本：一个标签编码的视角

Unlabeled samples are utilized through label encodings to ensure both prediction discriminability and diversity in Empirical Risk Minimization scenarios with insufficient labeled samples.

Jun, 2024

正规化与最优多类学习

这项研究的目的是在多类学习中表征正则化的作用，并使用一种最优学习算法来控制模型容量，该算法与结构风险最小化、最大熵原理和贝叶斯推理相结合。同时引入一种新的学习者，通过在无监督学习阶段学习正则化器，实现结构风险最小化的放松，以及推导学习问题的归纳错误率。最后，引入了对偶误差的泛化和不可知情况的哈明图最优学习算法，通过最大熵程序实现最优学习。

Sep, 2023

缺失随机标签时的可靠半监督学习

本文介绍了一种半监督学习的方法，采用生成模型与监督学习算法，放松了对未标记特征的约束，可提高分类器的可靠性，从而准确量化标签不确定度。

Nov, 2018

任意损失和模型的互补标签学习

本文提出了一种基于互补标签学习的框架，通过无偏估计分类风险来进行模型选择，且适用于线性 / 非线性模型或凸 / 非凸损失函数，实验表明该方法优于现有方法。

Oct, 2018