ACLFeb, 2022

通过自然语言推理的间接监督进行超细实体类型标注

PDF
TL;DRLITE is a natural language inference-based approach for ultra-fine entity typing, addressing the data scarcity issue and achieving state-of-the-art performance and strong generalizability.
ultra-fine entity typingnatural language inferencelearning-to-rankdata scarcitygeneralizability
发现论文，激发创造
  • 利用标签的先验知识进行细粒度实体类型划分：一种简单的基于聚类的策略

    本文提出了一种简单的技术，使用预训练的标签嵌入将标签聚类形成语义领域，并将这些领域作为附加类型来改进现有的 UFET 模型的性能。同时作者还使用标签聚类作为后处理技术，进一步提高了模型性能。

    May, 2023

  • 超细粒度实体类型化

    介绍了一种新的实体类型任务，使用头词来进行大规模远程监督，利用多任务目标训练模型，实现对实体类型的预测，对这一方法进行了实验评估并提供相关数据和模型。

    Jul, 2018

  • 利用来自掩蔽语言模型的弱监督进行超细实体类型识别

    本文提出了使用 BERT 遮盖语言模型 (Masked Language Model) 获得超细粒度实体类型的训练数据，并构建一个输入使其产生预测上下文相关的超类词表中的概念，其可用作类型标签。在实验结果中表明，通过这些自动生成的标签，超细粒度实体类型模型的性能大大提高。同时，我们还展示了这种方法可以用于改进传统的细粒度实体类型。

    Jun, 2021

  • 从超细到精细：微调超细实体类型模型至细粒度

    通过使用超细粒度实体类型数据训练一个具有极广泛类型覆盖的实体类型模型，然后在新设计的细粒度实体类型模式下，通过少量手动标注的样本对先前训练的模型进行微调，我们提出了一种新的方法，能够避免在新类型架构时创建远距离标记数据的需求，并在低样本学习设置下实现出色的细粒度实体类型识别性能。

    Dec, 2023

  • 利用神经对偶条件随机场建模标签相关性以进行超细实体类型划分

    使用 pairwise conditional random field (PCRF) 设计了一种神经网络模块 Neural-PCRF，它能够提高实体类型推理任务中的性能，同时能够加速推理并在现有数据集上具有选择性。

    Dec, 2022

  • OntoType：本体指导的零样本细粒度实体类型识别，在预训练语言模型弱监督下

    本文提出了一种本体导向的零样本方法 OntoType，使用多个预训练的语言模型和头部单词生成一组类型候选，并使用一个自然语言推理模型在本地上下文中对其进行分类，其表现优于其他零样本细粒度实体类型方法，同时实验还表明，对现有本体结构进行细化处理将进一步提高实体类型的细化。

    May, 2023

  • 为实现精细化实体类型标注而进行的本体增强

    OnEFET 是一种无需人工注释的高质量细粒度实体类型方法，通过对本体结构进行信息扩充，并利用训练样本扩充和话题信息的粗到细的分层方法，超越现有的零样本方法，赶上有监督方法。

    Oct, 2023

  • 自动标签解释与实例生成的少样本细粒度实体类型划分

    本文提出了一个新的架构，包括两个模块：（1）实体类型标签解释模块，自动学习将类型标签与词汇表相关联的方法，（2）基于类型的上下文实例生成器，根据给定实例生成新实例，以扩大训练集以获得更好的泛化能力。在三个基准数据集上，该模型的性能明显高于现有方法。

    Jun, 2022

  • 为高效和通用的超细实体类型定义校准的 Seq2seq 模型

    使用 CASENT 模型，采用序列到序列方法，并预测带有经过校准的置信度分数的超精确类型，通过在 UFET 数据集上的实验证明其在 F1 得分和校准误差方面优于现有最先进方法，同时推断速度提高了 50 多倍，并在零样本和少样本情况下，在五个专业领域实体类型数据集上展示了其泛化能力，惊人的是，在零样本设置下，我们的模型在超过 10 倍参数的大型语言模型上取得了更好的性能，在使用 50 个示例进行微调时，它在所有数据集上显著优于 ChatGPT。

    Nov, 2023

  • 基于精细表示的远程监督数据细粒度命名实体识别

    本文提出了一种基于图卷积网络的方法，通过关注语料库级别的上下文提示来提炼含噪声的命名实体类型，实验证明该方法相对于现有研究提高了 10.2％和 8.3％的总体宏 / 微 F1 得分。

    Apr, 2020