Feb, 2024

TELEClass: 在最小监督下的分类法丰富和 LLM 增强的分层文本分类

PDF
TL;DR通过自动丰富标签分类法和利用大型语言模型来进行弱监督的分层文本分类，我们的方法 TELEClass 在两个公共数据集上表现优于先前的弱监督分层文本分类方法和基于零样本提示的大型语言模型方法。
hierarchical text classificationsupervisionlarge language modelsweakly-supervisedtaxonomy enrichment
发现论文，激发创造
  • 弱监督层次文本分类

    本文提出了一种弱监督的神经方法进行层次文本分类，通过生成伪文档进行模型预训练，并在真实无标签数据上进行自我训练，最终得到高效准确的分类模型。

    Dec, 2018

  • 基于 LLM 监督的零训练语义分割

    该论文介绍了一种利用大型语言模型（LLM）进行文本监督语义分割的新方法，该方法通过生成更准确的类别表示来提供多样化的分割结果，并通过合并不同的子类描述符的分割图确保对测试图像的更全面的表示。经过三个标准基准的全面实验，我们的方法比传统的文本监督语义分割方法表现出更好的性能。

    Mar, 2024

  • 大规模多标签文本分类的实证研究，包括少量和零样本标签

    本研究在多个数据集上评估了多种 Large-scale Multi-label Text Classification 方法，发现基于概率标签树的层次分类方法优于 Label-Wise Attention Networks。另外，结合 Transformer 的方法在两个数据集上实现了优秀的性能，同时提出了一种新的最先进的方法，将 BERT 与 LWANs 相结合。此外，还引入了图形感知注释接近度度量，提出了利用标签层次结构来改进少量和零 - shot 学习的新模型。

    Oct, 2020

  • 自动注释中的知识蒸馏：由 LLM 生成的训练标签进行监督文本分类

    使用生成的大型语言模型生成的标签对监督文本分类模型进行微调，与使用人工标注的标签相比表现相当，是一种快速、高效和经济有效的构建监督文本分类器的方法。

    Jun, 2024

  • TnT-LLM：大规模文本挖掘与大型语言模型

    利用大规模语言模型 (LLMs)，我们提出了 TnT-LLM 两阶段框架，自动化生成和分配标签，以最小人工工作量构建具有轻量级监督分类器的训练样本，并在 Bing Copilot 上应用此框架来分析用户意图和对话领域，实验结果表明 TnT-LLM 生成了更准确和相关的标签分类法，实现了在大规模分类中准确性和效率之间的有利平衡。

    Mar, 2024

  • 基于层次元数据感知的弱监督文档分类

    本研究介绍了 HiMeCat，一种基于嵌入式生成框架的弱监督文档分类方法，它能够有效地整合文本、元数据和标签层次结构，并通过数据增强和联合表示学习模块进一步优化分类效果。

    Oct, 2020

  • 科学文档的层次多标签分类

    本文介绍一种新的数据集 SciHTC，包含 186,160 篇论文和 1,233 个学科分类，建立了层次化多标签文本分类的强基线，并提出了一种多任务学习方法来进行主题分类，获得 Macro-F1 得分 34.57％，显示这个数据集提供了显著的研究机会。

    Nov, 2022

  • 严格零样本分层分类的简单有效框架

    提出一种用于处理层级数据集的指示性长尾预测任务的方法，并结合蕴含 - 矛盾预测来解决大语言模型在零样本设置下容易失败的局限性。

    May, 2023

  • 层次多标签文本分类的最新进展：一项综述

    本文综述了层次化多标签文本分类的最新进展，包括开源数据集、主要方法、评估指标、学习策略和当前面临的挑战，并列举了一些未来的研究方向，以便社区进一步改进该领域。

    Jul, 2023

  • HPT: 针对分层文本分类的层次感知提示调整

    本研究提出了一种分层感知提示调节方法（HPT）来处理多标签文本分类（HTC），通过构建动态虚拟模板和标记词，融合标记层次结构知识并引入零界多标签交叉熵损失，以提高预训练语言模型在 HTC 领域的性能，实验结果表明 HPT 在三组常用数据集上均取得了最先进的表现，能够有效地处理平衡不足和低资源情况。

    Apr, 2022