Mar, 2018

对抗性极端多标签分类

PDF
TL;DR本文探讨了在存在对抗扰动的情况下的极端分类中的学习任务，并提出了一种鲁棒优化框架和相应的正则化目标，发现 Hamming 损失可作为尾标签检测的有效方法。通过结合正则化目标和基于 Proximal 梯度的优化方法，相对于 PFastreXML 和 SLEEC 等现有方法在 precision@k 和 nDCG@k 上提供了优异的性能。同时，我们还研究了标签图的谱特性，提供了新的洞察力以了解 Hamming 损失的一对多方法和标签嵌入方法之间性能的条件限制。
extreme multi-label classificationadversarial perturbationshamming lossregularized objectivelabel graphs
发现论文，激发创造
  • 无后悔泛化的分层 softmax 算法在极端多标签分类中的应用

    本文中，我们探究了处理极端多标记分类问题的概率标记树（PLTs），并通过实现 extremeText（XT）来证明 PLTs 在 precision@k 指标下是一个 HSM 的无遗憾多标签泛化。同时，我们证明了 pick-one-label 启发式算法在一般情况下不是一致的，我们的实现方法比使用 pick-one-label 的 HSM 和专门为 XMLC 问题设计的神经网络 XML-CNN 得到的结果更好。此外，XT 在统计性能、模型大小和预测时间等方面与许多最先进的方法相当，适合部署在在线系统中。

    Oct, 2018

  • 通过对抗性 Softmax 近似进行极值分类

    本文提出一种简单的训练方法，通过从模仿数据分布的对抗模型中绘制负样本来大大增强梯度信号，以实现极端分类的高效训练，并在大规模数据集上实现了训练时间相对于几个竞争基线的数量级的减少。

    Feb, 2020

  • 深度极端多标签学习

    该论文提出了一种利用非线性嵌入和基于图先验的标签空间建模相结合的实用深度嵌入方法，以解决规模庞大的标签空间问题，并在多个公共数据集上进行了实验。

    Apr, 2017

  • 极端多标签分类中的数据增广

    本文针对极端多标签分类（XMC）问题，提出了一种基于数据增强的分类方法，该方法利用预训练的 GPT-2 模型生成输入文本的无标记扰动以增强现有训练数据，并与使用 RoBERTa 的标签注意分类器相结合，取得了较优效果。

    Sep, 2020

  • 极端多标签学习的本地非线性嵌入

    本文介绍了 X-One 分类器，其使用小型本地距离保存嵌入，可以准确预测罕见（尾部）标签的聚合，提高了分类准确性，可有效且较之于嵌入法和树法的现有极端多标签分类算法，对于拥有百万标签的数据集也能高效扩展。

    Jul, 2015

  • 极端多标记分类的概率标记树

    本研究详细研究了概率标签树 (PLTs) 作为多标记问题中的分层 softmax 的一般化方法，考虑了在线学习的问题，证明了他们的相容性，提出了一种新的 PLTs 实现，并通过实验证明了它的有效性。

    Sep, 2020

  • 标签噪声下的鲁棒长尾学习

    研究了在长尾标签分布下标签噪声问题，提出了一种新的原型噪声检测方法及一个鲁棒的框架，该框架通过软伪标签技术和半监督学习算法进一步提高了泛化性能，并且在基准和真实数据集上表现优于现有基线模型，尤其是比 DivideMix 模型测试精度高出 3％。

    Aug, 2021

  • 基于排序的自编码器极端多标签分类

    本文提出了基于深度学习的 XML 方法，采用基于词向量的自注意力和基于排序的自编码器，不仅能处理特征和标签之间的依赖关系，同时也可以考虑标签之间的依赖关系，该方法在标准数据集上表现优异。

    Apr, 2019

  • 轻量级深度极端多标签分类

    本文提出一种名为 LightDXML 的方法来解决极端多标签分类的问题，使用标签嵌入代替特征嵌入进行负采样，并通过三个主要阶段迭代训练，从而在保持时间和内存要求的同时，达到与深度学习方法相当的预测准确性。

    Apr, 2023

  • 极端多标签分类中长尾性能的广义测试工具

    在极端多标签分类中，通过对大量可能标签中选择一小部分相关标签来解决长尾标签问题，采用了预算 “在 k” 的广义度量方法并利用块协调上升算法，取得了在长尾性能方面有希望的结果。

    Nov, 2023