极端多标记分类的概率标记树

Sep, 2020

Probabilistic Label Trees for Extreme Multi-label Classification

Kalina Jasinska-Kobus, Marek Wydmuch, Krzysztof Dembczynski, Mikhail Kuznetsov, Robert Busa-Fekete

TL;DR本研究详细研究了概率标签树 (PLTs) 作为多标记问题中的分层 softmax 的一般化方法，考虑了在线学习的问题，证明了他们的相容性，提出了一种新的 PLTs 实现，并通过实验证明了它的有效性。

Abstract

extreme multi-label classification (XMLC) is a learning task of tagging instances with a small subset of relevant labels chosen from an extremely large pool of possible labels. Problems of this scale can be efficiently handled by organizing labels as a tree, like in hierarchical softma

extreme multi-label classification probabilistic label trees online learning regret bound algorithm

发现论文，激发创造

无后悔泛化的分层 softmax 算法在极端多标签分类中的应用

本文中，我们探究了处理极端多标记分类问题的概率标记树（PLTs），并通过实现 extremeText（XT）来证明 PLTs 在 precision@k 指标下是一个 HSM 的无遗憾多标签泛化。同时，我们证明了 pick-one-label 启发式算法在一般情况下不是一致的，我们的实现方法比使用 pick-one-label 的 HSM 和专门为 XMLC 问题设计的神经网络 XML-CNN 得到的结果更好。此外，XT 在统计性能、模型大小和预测时间等方面与许多最先进的方法相当，适合部署在在线系统中。

Oct, 2018

倾向分数概率标签树

本研究提出一种基于 A * 搜索算法的推断过程，能够有效地解决了在极端多标签分类模型中标签分布不均、稀疏、缺失等问题，从而优化了分类预测效果。

Oct, 2021

带自适应概率标签聚类的预训练广义自回归模型，用于极端多标签文本分类

我们提出了一种新的深度学习方法 APLC-XLNet 来解决极端多标签文本分类的问题，通过自适应概率标签聚类来近似交叉熵损失，并在五个基准数据集上的实验显示，我们的方法在四个基准数据集上实现了最新的最佳结果.

Jul, 2020

AttentionXML：基于标签树的注意力深度模型，用于高性能极端多标签文本分类

本研究介绍了一种新的基于标签树的深度学习模型 AttentionXML，它采用多标签注意机制和浅而宽的概率标签树来处理极端多标签文本分类问题，能够对数百万个标签进行处理，并成功地解决了 BOW 和传统深度学习模型在文本分类中的局限性。在几个基准数据集上，AttentionXML 表现出比其他八种最先进的方法更好的性能，期望成为文本分类领域内的研究热点。

Nov, 2018

轻量级深度极端多标签分类

本文提出一种名为 LightDXML 的方法来解决极端多标签分类的问题，使用标签嵌入代替特征嵌入进行负采样，并通过三个主要阶段迭代训练，从而在保持时间和内存要求的同时，达到与深度学习方法相当的预测准确性。

Apr, 2023

深度极端多标签学习

该论文提出了一种利用非线性嵌入和基于图先验的标签空间建模相结合的实用深度嵌入方法，以解决规模庞大的标签空间问题，并在多个公共数据集上进行了实验。

Apr, 2017

极端多标签分类中长尾性能的广义测试工具

在极端多标签分类中，通过对大量可能标签中选择一小部分相关标签来解决长尾标签问题，采用了预算 “在 k” 的广义度量方法并利用块协调上升算法，取得了在长尾性能方面有希望的结果。

Nov, 2023

ICXML: 零样本极度多标签分类的上下文学习框架

本文研究极端多标记分类（XMC）任务，提出了一种使用上下文学习方法的 In-Context Extreme Multilabel Learning（ICXML）框架，通过生成候选标签集并对其进行排名，进一步提升了 XMC 领域的研究进展。

Nov, 2023

基于排序的自编码器极端多标签分类

本文提出了基于深度学习的 XML 方法，采用基于词向量的自注意力和基于排序的自编码器，不仅能处理特征和标签之间的依赖关系，同时也可以考虑标签之间的依赖关系，该方法在标准数据集上表现优异。

Apr, 2019

不完美环境下的学习：长尾分布和部分标签的多标签分类

本文介绍了一种新颖的任务，即 Partial labeling and Long-Tailed Multi-Label Classification（PLT-MLC），并提出了一种端到端的学习框架 CO-MIC-Balance（Correction，Modification，Balance），用于同时解决长尾分布和部分标签的多标签分类问题，该框架通过比较预测置信度和类特定阈值来修正丢失的标签，使用多聚焦的修饰符损失来同时解决头部尾部不平衡和正负不平衡，并使用平衡分类器来保持所有样本的稳定性。实验结果表明，该方法在新创建的 PLT-MLC 数据集上具有更高的有效性和鲁棒性。

Apr, 2023