May, 2019

基于混合注意力机制的标签感知文档表示法用于极端多标签文本分类

PDF
TL;DR该研究提出了一种名为 LAHA 的模型，该模型利用文本内容和标签关联性之间的语义关系，建立了一个显式的标签感知表征，特别是在尾标签的情况下，使得模型在非常大规模的标签集中的文本标记任务中表现出了卓越性能。
extreme multi-label text classificationtail labelshybrid attention deep neural network modelmulti-label self-attention mechanismlabel correlation
发现论文，激发创造
  • AttentionXML：基于标签树的注意力深度模型，用于高性能极端多标签文本分类

    本研究介绍了一种新的基于标签树的深度学习模型 AttentionXML，它采用多标签注意机制和浅而宽的概率标签树来处理极端多标签文本分类问题，能够对数百万个标签进行处理，并成功地解决了 BOW 和传统深度学习模型在文本分类中的局限性。在几个基准数据集上，AttentionXML 表现出比其他八种最先进的方法更好的性能，期望成为文本分类领域内的研究热点。

    Nov, 2018

  • HAXMLNet：用于极端多标签文本分类的分层注意力网络

    提出了一个名为 HAXMLNet 的层次化网络结构，利用多标签关注机制来解决极端多标签文本分类问题，并在实验中表现出与其他最先进方法相媲美的性能。

    Mar, 2019

  • 利用动态和细粒度的语义范围进行极端多标签文本分类

    本文提出了一种用于极端多标签文本分类的新型框架 TReaderXML，它采用动态和细粒度的语义范围来优化每个文本的先验类别语义范围，通过新型的双协作网络来找到目标标签，实验结果表明我们的方法在三个 XMLC 基准数据集上达到了新的最佳表现。

    May, 2022

  • 基于 Transformer 的极端多标签文本分类中局部和全局特征的利用

    本研究提出了一种方法来结合 transformer 模型所产生的局部和全局特征，从而提高分类器的预测能力，在大规模分类任务的基准数据集上表现优异。

    Apr, 2022

  • 基于注意力的学术资源文本级多标签分类

    本文提出了一种基于注意力机制的层次化多标签学术文本分类算法，该算法结合了文本、关键词和层次结构等特征，利用 word2vec 和 BiLSTM 来获取文本、关键词和层次结构的嵌入式和潜在向量表示，并使用分层注意机制来捕捉关键词、标签层次结构和文本词向量之间的关联，以生成特定于分层的文档嵌入向量取代 HMCN-F 中的原始文本嵌入。实验结果显示，该算法具有较好的效果。

    Mar, 2022

  • 带自适应概率标签聚类的预训练广义自回归模型，用于极端多标签文本分类

    我们提出了一种新的深度学习方法 APLC-XLNet 来解决极端多标签文本分类的问题，通过自适应概率标签聚类来近似交叉熵损失，并在五个基准数据集上的实验显示，我们的方法在四个基准数据集上实现了最新的最佳结果.

    Jul, 2020

  • 极端多标签法律文本分类：欧盟立法案例研究

    本文讨论在法律领域中进行的极端多标签文本分类（XMTC）任务，并发布了一个新的数据集，其中包含 57k 份来自欧洲公共文档数据库 EURLEX 的立法文件，注释了来自多学科词库 EUROVOC 的概念。本文实验了几种神经分类器，表明采用 self-attention 的 BIGRUs 优于目前使用基于标签的注意力的多标签最先进方法。用 BIGRUs 替换 CNN 在基于标签的注意力网络中，从而获得了最佳的整体性能。

    May, 2019

  • 极端多标签分类中的数据增广

    本文针对极端多标签分类（XMC）问题，提出了一种基于数据增强的分类方法，该方法利用预训练的 GPT-2 模型生成输入文本的无标记扰动以增强现有训练数据，并与使用 RoBERTa 的标签注意分类器相结合，取得了较优效果。

    Sep, 2020

  • 检索增强多标签文本分类

    本文提出了一种检索增强的方法来解决具有 Zipfian 分布标签支持的大标签集情 况下的多标签文本分类问题，并通过交叉关注和检索来改善分类模型的样本效率，实验证明这种方法在标签分布偏斜、低资源训练和长文档数据情境下显著提高了模型性能。

    May, 2023

  • KeNet: 知识增强的 Doc-Label 注意力网络用于多标签文本分类

    提出一种名为 Knowledge-enhanced Doc-Label Attention Network (KeNet) 的新方法，通过综合的文档、知识和标签表示来预测每个文本的所有标签，并在多个多标签数据集上进行了综合验证，实验证明我们的方法优于现有的多标签文本分类方法。

    Mar, 2024