Sep, 2020

极端多标签分类中的数据增广

PDF
TL;DR本文针对极端多标签分类（XMC）问题，提出了一种基于数据增强的分类方法，该方法利用预训练的 GPT-2 模型生成输入文本的无标记扰动以增强现有训练数据，并与使用 RoBERTa 的标签注意分类器相结合，取得了较优效果。
data augmentationextreme multi-label classificationlong tail label distributiongpt-2roberta
发现论文，激发创造
  • 使用预训练变压器进行极端多标签文本分类

    本文提出了通过使用 X-Transformer 对深度 transformer 模型进行微调，来解决极端多标签文本分类 (XMC) 问题。其在 Wiki 数据集上的表现达到了 77.28%，是现有技术中最好的结果。

    May, 2019

  • 检索增强多标签文本分类

    本文提出了一种检索增强的方法来解决具有 Zipfian 分布标签支持的大标签集情 况下的多标签文本分类问题，并通过交叉关注和检索来改善分类模型的样本效率，实验证明这种方法在标签分布偏斜、低资源训练和长文档数据情境下显著提高了模型性能。

    May, 2023

  • 极端多标记分类中的聚类引导标签生成

    本文提出了一种用于极端多标签分类的标签生成方法，该方法利用预训练的文本生成模型，通过标签聚类信息对标签进行层次生成。该方法在四个常见的极端多标签分类基准测试中表现出色，尤其在影响较小的标签上表现更佳。此外，该方法生成的标签不仅实用，而且还具有未知类别的高可信度。

    Feb, 2023

  • 极度多标签文本分类的快速多分辨率 Transformer 微调

    该论文提出了一种名为 XR-Transformer 的新递归方法，以加速 transformer 模型在大标签空间上的微调过程，并在 3 百万标签的公共 Amazon-3M 数据集上取得了较快的训练速度，同时也提高了 Precision@1 从 51％提高到 54％，成为当今其他基于 transformer 的 XMC 模型的更好的最新结果之一。

    Oct, 2021

  • 来自聚合标签的极端多标记分类

    我们开发了一种新的可扩展算法，用于从组标签中填充单个样本标签，并提供了一个新的端对端框架作为扩展，解决多示例多标签问题，在聚合标签的 XMC 和 MIML 任务上的实验表明了对现有方法的优势。

    Apr, 2020

  • 通过标签特征学习极端多标签分类中的标签 - 标签相关性

    通过利用标签共现图、短文本 XMC 问题特性及标签特征构建有效训练实例和生成对应软标签目标，Gandalf 在更少的训练实例下能够超过原始数据集上的模型，在尾部标签的 PSP@k 指标上表现尤为突出，通过对现有 XMC 算法进行训练可改进平均 5% 的相对性能，扩展了领域内的最新进展。

    May, 2024

  • 基于混合注意力机制的标签感知文档表示法用于极端多标签文本分类

    该研究提出了一种名为 LAHA 的模型，该模型利用文本内容和标签关联性之间的语义关系，建立了一个显式的标签感知表征，特别是在尾标签的情况下，使得模型在非常大规模的标签集中的文本标记任务中表现出了卓越性能。

    May, 2019

  • 极限零样本学习在极端文本分类中的应用

    本文提出了一种使用预训练的 Transformer 编码器通过自监督对比损失学习实例和标签的语义嵌入的方法，即 MACLR，以解决极端多标签文本分类问题，包括 GZ-XMC、Extreme Zero-Shot XMC 和 Few-Shot XMC，在多个公共 EZ-XMC 数据集上实现了更好的性能。

    Dec, 2021

  • 基于 Transformer 的极端多标签文本分类中局部和全局特征的利用

    本研究提出了一种方法来结合 transformer 模型所产生的局部和全局特征，从而提高分类器的预测能力，在大规模分类任务的基准数据集上表现优异。

    Apr, 2022

  • 带自适应概率标签聚类的预训练广义自回归模型，用于极端多标签文本分类

    我们提出了一种新的深度学习方法 APLC-XLNet 来解决极端多标签文本分类的问题，通过自适应概率标签聚类来近似交叉熵损失，并在五个基准数据集上的实验显示，我们的方法在四个基准数据集上实现了最新的最佳结果.

    Jul, 2020