从超细到精细：微调超细实体类型模型至细粒度

ACLDec, 2023

从超细到精细：微调超细实体类型模型至细粒度

From Ultra-Fine to Fine: Fine-tuning Ultra-Fine Entity Typing Models to Fine-grained

Hongliang Dai, Ziqian Zeng

TL;DR通过使用超细粒度实体类型数据训练一个具有极广泛类型覆盖的实体类型模型，然后在新设计的细粒度实体类型模式下，通过少量手动标注的样本对先前训练的模型进行微调，我们提出了一种新的方法，能够避免在新类型架构时创建远距离标记数据的需求，并在低样本学习设置下实现出色的细粒度实体类型识别性能。

Abstract

For the task of fine-grained entity typing (FET), due to the use of a large number of entity types, it is usually considered too costly to manually annotating a training dataset that contains an ample number of examples for each type. A common way to address this problem is to use dist

fine-grained entity typing distantly annotated training data entity typing model ultra-fine entity typing data few-shot setting

发现论文，激发创造

为实现精细化实体类型标注而进行的本体增强

OnEFET 是一种无需人工注释的高质量细粒度实体类型方法，通过对本体结构进行信息扩充，并利用训练样本扩充和话题信息的粗到细的分层方法，超越现有的零样本方法，赶上有监督方法。

Oct, 2023

利用标签的先验知识进行细粒度实体类型划分：一种简单的基于聚类的策略

本文提出了一种简单的技术，使用预训练的标签嵌入将标签聚类形成语义领域，并将这些领域作为附加类型来改进现有的 UFET 模型的性能。同时作者还使用标签聚类作为后处理技术，进一步提高了模型性能。

May, 2023

自动标签解释与实例生成的少样本细粒度实体类型划分

本文提出了一个新的架构，包括两个模块：（1）实体类型标签解释模块，自动学习将类型标签与词汇表相关联的方法，（2）基于类型的上下文实例生成器，根据给定实例生成新实例，以扩大训练集以获得更好的泛化能力。在三个基准数据集上，该模型的性能明显高于现有方法。

Jun, 2022

细粒度实体类型自动嘈杂标签纠正

本文提出了一种新方法，通过估计先前模型的逻辑输出确定潜在的嘈杂标签，然后训练一个鲁邦模型来除去剩余的噪声标签，从而自动校正 FINE-Grained 实体类型任务中的嘈杂标签，证明了方法的有效性。

May, 2022

OntoType：本体指导的零样本细粒度实体类型识别，在预训练语言模型弱监督下

本文提出了一种本体导向的零样本方法 OntoType，使用多个预训练的语言模型和头部单词生成一组类型候选，并使用一个自然语言推理模型在本地上下文中对其进行分类，其表现优于其他零样本细粒度实体类型方法，同时实验还表明，对现有本体结构进行细化处理将进一步提高实体类型的细化。

May, 2023

利用来自掩蔽语言模型的弱监督进行超细实体类型识别

本文提出了使用 BERT 遮盖语言模型 (Masked Language Model) 获得超细粒度实体类型的训练数据，并构建一个输入使其产生预测上下文相关的超类词表中的概念，其可用作类型标签。在实验结果中表明，通过这些自动生成的标签，超细粒度实体类型模型的性能大大提高。同时，我们还展示了这种方法可以用于改进传统的细粒度实体类型。

Jun, 2021

超细粒度实体类型化

介绍了一种新的实体类型任务，使用头词来进行大规模远程监督，利用多任务目标训练模型，实现对实体类型的预测，对这一方法进行了实验评估并提供相关数据和模型。

Jul, 2018

通过自然语言推理的间接监督进行超细实体类型标注

LITE is a natural language inference-based approach for ultra-fine entity typing, addressing the data scarcity issue and achieving state-of-the-art performance and strong generalizability.

Feb, 2022

面向细粒度实体类型划分的类型丰富的分层对比策略

该论文提出了一种类型丰富的层次对比策略用于细粒度实体类型，使模型直接区分不同层次的类型差异并提高了区分多粒度相似类型的能力。在 BBN、OntoNotes 和 FIGER 三个基准上的实验结果表明，该方法通过有效地建模类型差异在 FET 上实现了显著的性能提升。

Aug, 2022

去噪增强远程监督的超细实体类型识别

本文提出一种新颖的超细实体类型模型，其具有去噪能力，通过建立一个噪声模型对输入的上下文和实体类型标签进行估计，从输入中减去估计噪声以恢复更可靠的标签，并采用双编码器结构训练去噪数据，噪声模型和实体类型模型迭代训练，以提高彼此的性能，在 Ultra-Fine 实体类型数据集以及 OntoNotes 数据集上表现显著优于其他基线方法。

Oct, 2022