信息抽取中使用银标准数据进行零样本分类任务的研究

COLINGFeb, 2024

信息抽取中使用银标准数据进行零样本分类任务的研究

On the use of Silver Standard Data for Zero-shot Classification Tasks in Information Extraction

Jianwei Wang, Tianyin Wang, Ziqian Zeng

TL;DR该论文提出了一种新的框架 Clean-LaVe，旨在利用银标数据提高零样本性能。该框架在零样本关系分类任务上超过基线 5% 和 6%，在零样本跨语言关系分类任务上超过基线 3%-7%，在零样本事件参数分类任务上超过基线 8%。

Abstract

The superior performance of supervised classification methods in the information extraction (IE) area heavily relies on a large amount of gold standard data. Recent →

supervised classification methods information extraction zero-shot classification silver standard data clean-lave

发现论文，激发创造

零 - shot 实体和关系分类的描述增强

当给定少量标记数据时，零样本学习方法可以利用外部信息（例如文本描述）来对输入文本数据进行实体和关系分类。然而，最近的研究表明这些方法对提供的实体（或关系）描述非常敏感，即使描述的微小修改也可能导致决策边界的变化。本文正式定义了识别零样本推断中有效描述的问题，并提出一种生成初始描述变体的策略、对它们进行排序的启发式方法以及一种能够通过描述增强来提升零样本模型预测效果的集成方法。实验结果表明，我们提出的方法在四个不同的实体和关系分类数据集上优于现有方法，并在零样本学习设置下实现了新的最先进结果。所提出解决方案的源代码和评估框架已经开源。

Jun, 2024

强监督下的多线索零样本学习

利用多个文本来源和语义部分注释来提供更强的监督辅助信息，达到零样本识别和检索的目标。

Mar, 2016

利用生成语言模型进行零样本文本分类

本文研究了使用自然语言实现零样本模型对新任务的自适应性，通过社交评论平台的文本和元数据作为简单的预训练任务，并提供分类任务的自然语言描述作为输入训练语言模型，以生成正确答案的方式进行自然语言的模型推广，克服了多任务分类的缺点，在六个基准文本分类数据集上训练出具有零样本性能的生成性语言模型，结果显示语言可以作为任务自适应的简单而强大的描述符，这为文本问题的新元学习策略指明了方向。

Dec, 2019

零样本学习用于需求分类：探索性研究

本研究提出了使用零样本学习方法进行需求分类的可能性，使用了上下文词嵌入和基于 transformer 的语言模型，通过一系列实验展示了该方法在三项分类任务上取得了不俗的结果。这种零样本学习方法可以缓解在需求工程中数据短缺的问题。

Feb, 2023

使用类别描述标注的零样本文本分类训练的好处

本研究提出了一种简单的方法来进一步提高零 - shot 分类准确性，即利用精心策划的微调数据集描述任务的标签，进而在多个文本域中获得强大的预测模型。

May, 2023

零样本多语言摘要的神经标签搜索

NLSSum 是一种多语言抽取式文本摘要模型，可以在不同语言的数据集中学习句子级标签，并同时使用这些标签来提高文本摘要的质量。

Apr, 2022

大型语言模型中利用标签变异进行零样本文本分类

使用 5 种最先进的大型语言模型（LLMs）作为 “标注者” 在多个任务上进行评估，并比较其与人类标注的优缺点。总体而言，尽管 LLMs 在某些任务上表现出色，但它们无法替代人类标注的需求。