ACLMar, 2019

将语义知识融合应用于零样本文本分类

PDF
TL;DR本文提出了一个两阶段的框架，结合了数据扩充和特征扩充来解决零样本文本分类问题，同时将四种语义知识结构（词嵌入，类别描述，类层次结构和通用知识图谱）纳入到该框架中，实验结果表明，该框架的单独和联合两个阶段相比基线和最近的方法均获得了最佳的整体准确率。
zero-shot text classificationdata augmentationfeature augmentationsemantic knowledgeclass hierarchy
发现论文，激发创造
  • 强监督下的多线索零样本学习

    利用多个文本来源和语义部分注释来提供更强的监督辅助信息，达到零样本识别和检索的目标。

    Mar, 2016

  • Train Once, Test Anywhere: 零样本学习用于文本分类

    提出了使用零样本学习的方法在大语料库上训练模型来学习语句和其标签之间的关系，以实现模型对未知语句和标签的预测，并报告在三个不同数据集上的实验结果，该方法是自然语言处理中通向智能化的一步。

    Dec, 2017

  • 跨模态传递的零样本学习

    该研究提出了一种模型，即使没有针对该对象的训练数据，也能在图像中识别对象，并从无监督的大型文本语料库中获取对未知类别的必要知识，在语言中的分布式信息可以被视为理解物体外观的语义基础。

    Jan, 2013

  • 自训练的零样本文本分类

    本文提出一种基于自训练方法的插入式零样本文本分类技术，无需领域专业知识或经验，仅需要类别标签和无标记数据，可显著提高性能，适用于各种文本分类任务。

    Oct, 2022

  • 解放已见类别：通过锚点生成和分类重构提升少样本和零样本文本分类

    我们提出了一个简单而有效的策略，通过利用大型预训练语言模型生成伪新样本并选择最具代表性的样本作为类别锚点，将多类分类任务转换为二元分类任务，并使用查询 - 锚点对的相似性进行预测，从而在少样本和零样本任务中充分利用有限的监督信号，实现模型从已知类别的限制中解放，能够在没有使用任何已知类别样本的情况下准确预测未知类别。

    May, 2024

  • 零样本文本分类的标签无关预训练

    本文旨在探究利用两种新的有效的预训练策略（Implicit 和 Explicit pre-training）来改善 PLMs 在不同方面与领域的数据上泛化能力，特别是在零样本情况下进行文本分类的任务。作者通过引入 UTCD 数据集进行评估，证明了该方法在一系列零样本范式的挑战数据集上实现了更好的泛化能力。

    May, 2023

  • 为视觉和语言模型命名类别的学习

    使用可用数据为每个类学习最佳词嵌入作为视觉内容的函数，以此来解决零样本识别对手工类名的高度敏感以及适应新、较小数据集的困难。我们证明，该解决方案可以轻松集成在图像分类和物体检测管道中，在多种情况下产生显著的性能增益，并提供模型偏差和标注误差的见解。

    Apr, 2023

  • 基于语义嵌入的零样本音频分类

    本文通过使用从声音类别的文本标签和句子描述中提取的语义嵌入来进行零样本学习音频分类，并采用双线性兼容性框架在音频实例和声音类别之间学习声学 - 语义投影，即声学嵌入和语义嵌入。最终采用线性兼容性函数进行音频分类，其中度量声学嵌入和语义嵌入的兼容性。通过实验结果表明：“label/sentence embeddings” 与不同语言模型生成的嵌入的混合连接的分类结果进一步改善了分类性能。

    Nov, 2020

  • SemSup：用于简单和可扩展零 - shot 泛化的语义监督

    SemSup 使用可扩展的多描述采样方法，使用易于生成和在某些设置上优于文本的 JSON 等替代描述格式，以及混合词汇语义相似度来利用类别描述中的细粒度信息，从而提高了未见过的新类别泛化的准确性。

    Feb, 2022

  • 评估无监督文本分类：零样本和基于相似度的方法

    本文对不同的基于相似性和零样本方法进行了系统评估，对四个文本分类数据集进行了基准测试，包括来自医疗领域的新数据集。此外，提出了新的 SimCSE 和 SBERT 基线，其中使用 SimCSE 或 SBERT 嵌入而不是简单的文本表示进一步增强了基于相似性的分类结果。在无监督文本分类方面，提出了新的基于相似性的 Lbl2TransformerVec 方法，其性能优于先前的最先进方法。我们的实验表明，大多数情况下，基于相似性的方法显着优于零样本方法。

    Nov, 2022