May, 2022

生成模型实现开放词汇极端分类

PDF
TL;DR本文提出了一种针对开放词汇的极端多标签分类（OXMC）任务的序列到序列模型 ——GROOV，该模型可预测给定语料库之外的标签，且在预测已知标签时与现有最先进解决方案表现相当。
extreme multi-label classificationopen vocabularyseq2seq modellabel predictiongroov
发现论文，激发创造
  • 极端多标记分类中的聚类引导标签生成

    本文提出了一种用于极端多标签分类的标签生成方法，该方法利用预训练的文本生成模型，通过标签聚类信息对标签进行层次生成。该方法在四个常见的极端多标签分类基准测试中表现出色，尤其在影响较小的标签上表现更佳。此外，该方法生成的标签不仅实用，而且还具有未知类别的高可信度。

    Feb, 2023

  • 极限零样本学习在极端文本分类中的应用

    本文提出了一种使用预训练的 Transformer 编码器通过自监督对比损失学习实例和标签的语义嵌入的方法，即 MACLR，以解决极端多标签文本分类问题，包括 GZ-XMC、Extreme Zero-Shot XMC 和 Few-Shot XMC，在多个公共 EZ-XMC 数据集上实现了更好的性能。

    Dec, 2021

  • 来自聚合标签的极端多标记分类

    我们开发了一种新的可扩展算法，用于从组标签中填充单个样本标签，并提供了一个新的端对端框架作为扩展，解决多示例多标签问题，在聚合标签的 XMC 和 MIML 任务上的实验表明了对现有方法的优势。

    Apr, 2020

  • 利用大型语言模型从大规模输出空间中提取间接知识的零 - shot 学习

    我们提出了一种通过大型语言模型（LLM）的反馈来训练一个小型双编码器模型的框架，该双编码器模型将文档和标签编码为用于检索的嵌入向量。我们的方法利用 LLM 的零样本能力来评估标签与文档之间的相关性，而不是使用从文档本身提取的低质量标签。我们的方法在各种数据集上表现优于现有技术，同时对于大型数据集具有相似的训练时间，且能保证快速推断。

    Jun, 2024

  • 通过标签特征学习极端多标签分类中的标签 - 标签相关性

    通过利用标签共现图、短文本 XMC 问题特性及标签特征构建有效训练实例和生成对应软标签目标，Gandalf 在更少的训练实例下能够超过原始数据集上的模型，在尾部标签的 PSP@k 指标上表现尤为突出，通过对现有 XMC 算法进行训练可改进平均 5% 的相对性能，扩展了领域内的最新进展。

    May, 2024

  • 使用预训练变压器进行极端多标签文本分类

    本文提出了通过使用 X-Transformer 对深度 transformer 模型进行微调，来解决极端多标签文本分类 (XMC) 问题。其在 Wiki 数据集上的表现达到了 77.28%，是现有技术中最好的结果。

    May, 2019

  • 利用动态和细粒度的语义范围进行极端多标签文本分类

    本文提出了一种用于极端多标签文本分类的新型框架 TReaderXML，它采用动态和细粒度的语义范围来优化每个文本的先验类别语义范围，通过新型的双协作网络来找到目标标签，实验结果表明我们的方法在三个 XMLC 基准数据集上达到了新的最佳表现。

    May, 2022

  • ICXML: 零样本极度多标签分类的上下文学习框架

    本文研究极端多标记分类（XMC）任务，提出了一种使用上下文学习方法的 In-Context Extreme Multilabel Learning（ICXML）框架，通过生成候选标签集并对其进行排名，进一步提升了 XMC 领域的研究进展。

    Nov, 2023

  • 极端多标签分类中的数据增广

    本文针对极端多标签分类（XMC）问题，提出了一种基于数据增强的分类方法，该方法利用预训练的 GPT-2 模型生成输入文本的无标记扰动以增强现有训练数据，并与使用 RoBERTa 的标签注意分类器相结合，取得了较优效果。

    Sep, 2020

  • 极度多标签文本分类的快速多分辨率 Transformer 微调

    该论文提出了一种名为 XR-Transformer 的新递归方法，以加速 transformer 模型在大标签空间上的微调过程，并在 3 百万标签的公共 Amazon-3M 数据集上取得了较快的训练速度，同时也提高了 Precision@1 从 51％提高到 54％，成为当今其他基于 transformer 的 XMC 模型的更好的最新结果之一。

    Oct, 2021