KDDJun, 2022

自动标签解释与实例生成的少样本细粒度实体类型划分

PDF
TL;DR本文提出了一个新的架构，包括两个模块：（1）实体类型标签解释模块，自动学习将类型标签与词汇表相关联的方法，（2）基于类型的上下文实例生成器，根据给定实例生成新实例，以扩大训练集以获得更好的泛化能力。在三个基准数据集上，该模型的性能明显高于现有方法。
few-shot fine-grained entity typingprompt-based tuningpre-trained language modelsentity type label interpretationtype-based contextualized instance generator
发现论文，激发创造
  • OntoType：本体指导的零样本细粒度实体类型识别，在预训练语言模型弱监督下

    本文提出了一种本体导向的零样本方法 OntoType，使用多个预训练的语言模型和头部单词生成一组类型候选，并使用一个自然语言推理模型在本地上下文中对其进行分类，其表现优于其他零样本细粒度实体类型方法，同时实验还表明，对现有本体结构进行细化处理将进一步提高实体类型的细化。

    May, 2023

  • 为实现精细化实体类型标注而进行的本体增强

    OnEFET 是一种无需人工注释的高质量细粒度实体类型方法，通过对本体结构进行信息扩充，并利用训练样本扩充和话题信息的粗到细的分层方法，超越现有的零样本方法，赶上有监督方法。

    Oct, 2023

  • 细粒度实体类型自动嘈杂标签纠正

    本文提出了一种新方法，通过估计先前模型的逻辑输出确定潜在的嘈杂标签，然后训练一个鲁邦模型来除去剩余的噪声标签，从而自动校正 FINE-Grained 实体类型任务中的嘈杂标签，证明了方法的有效性。

    May, 2022

  • 通过共同预测提示调整学习纠正噪声标签的细粒度实体类型

    为了解决细粒度实体类型任务中的噪声标注问题，引入了 Co-Prediction Prompt Tuning 方法，利用多个预测结果来识别和纠正错误标签，并设计了优化目标以考虑训练过程中的不一致预测，实验结果表明该方法显著提高了各种类型的训练样本的质量。

    Oct, 2023

  • 从超细到精细：微调超细实体类型模型至细粒度

    通过使用超细粒度实体类型数据训练一个具有极广泛类型覆盖的实体类型模型，然后在新设计的细粒度实体类型模式下，通过少量手动标注的样本对先前训练的模型进行微调，我们提出了一种新的方法，能够避免在新类型架构时创建远距离标记数据的需求，并在低样本学习设置下实现出色的细粒度实体类型识别性能。

    Dec, 2023

  • 面向细粒度实体类型划分的类型丰富的分层对比策略

    该论文提出了一种类型丰富的层次对比策略用于细粒度实体类型，使模型直接区分不同层次的类型差异并提高了区分多粒度相似类型的能力。在 BBN、OntoNotes 和 FIGER 三个基准上的实验结果表明，该方法通过有效地建模类型差异在 FET 上实现了显著的性能提升。

    Aug, 2022

  • 细粒度实体类型提示学习

    本文探讨了使用 cloze 风格的语言提示刺激预训练语言模型的通用知识，并在完全监督、few-shot 和 zero-shot 情况下，根据实体类型实现了细粒度实体类型的提示学习，其中包括构建面向实体的语言生成器和模板，进一步提出的一种自监督策略可以在提示学习中进行分布级别的优化，从而自动总结实体类型的信息，并表明当训练数据不足时，prompt-learning 方法明显优于 fine-tuning 基线。

    Aug, 2021

  • 通过联合学习表示和标签嵌入进行细粒度实体类型分类

    本文提出了一种基于神经网络的模型，联合学习实体提及及其上下文表示，通过使用非参数的变体铰链损失函数解决训练数据含噪的问题，并证明了该模型表现优于现有技术，同时可以实现知识迁移。

    Feb, 2017

  • 具有层级感知损失的神经细粒度实体类型分类

    本研究提出了一种基于神经网络模型的端到端解决方案，使用一种变种的交叉熵损失函数来处理上下文外标签，并使用分层损失规范化来处理过于特定的标签，利用公共词嵌入来训练单标签，从而同时学习实体提及及其上下文的表示，实验证明该方法对噪声具有鲁棒性，并在任务的已有基准测试中持续超过现有技术水平。

    Mar, 2018

  • 通过自然语言推理的间接监督进行超细实体类型标注

    LITE is a natural language inference-based approach for ultra-fine entity typing, addressing the data scarcity issue and achieving state-of-the-art performance and strong generalizability.

    Feb, 2022