AAAIOct, 2017

基于路径注意力机制的细粒度实体类型识别神经模型

PDF
TL;DR该研究提出了一种名为 PAN 的端到端实体类型模型，通过利用类型的层次结构来学习噪声鲁棒性，该模型有效避免了在训练过程中的标签噪声和错误传播问题。
entity typinghierarchical structureend-to-end typing modelpath-based attention neural modelnoise-robust
发现论文，激发创造
  • 一种细粒度实体类型分类的注意力神经网络架构

    本文提出了一种新颖的基于注意力机制的神经网络模型，用于精细分类实体类型，与以前的模型不同的是，我们的模型递归地构建实体提及上下文的表示。我们的模型在著名的 FIGER 数据集上实现了 74.94% 的松散微平均 F1 分数，相对提高了 2.59％。我们还研究了我们的模型中注意机制的行为，并观察到它可以学习表明实体精细类别成员资格的上下文语言表达式。

    Apr, 2016

  • 细粒度实体类型分类的神经架构

    本文采用几种神经网络结构进行细粒度实体类型分类研究，并考虑了对最近提出的注意力神经结构的扩展，得出了三个关键贡献：结合学习和手工特征，同时观察它们互补作用；定量分析表明该注意力机制能够学习关注句法头和包含提及的短语，在我们的任务中，这些都是强大的手工特征；通过分层标签编码方法实现参数共享，在低维投影中显示出每种类型层次的明显聚类；虽然使用相同的评估数据集，但文献经常比较使用不同数据训练的模型，我们发现训练数据的选择对性能有显着影响，甚至会降低先前提出的方法的松散微 F1 得分高达 9.85％，但我们的最佳模型在广为人知的 FIGER（GOLD）数据集上实现了最新成果，松弛的微 F1 得分为 75.36％。

    Jun, 2016

  • 基于精细表示的远程监督数据细粒度命名实体识别

    本文提出了一种基于图卷积网络的方法，通过关注语料库级别的上下文提示来提炼含噪声的命名实体类型，实验证明该方法相对于现有研究提高了 10.2％和 8.3％的总体宏 / 微 F1 得分。

    Apr, 2020

  • 使用 TypeNet 进行更细粒度的实体类型划分

    介绍了 TypeNet 数据集，该数据集由 1941 个类型组成，通过人工注释从 1081 个 Freebase 类型映射到 WordNet。本文还探讨了几种与先进系统可比的模型，以及在标准提及类型损失的基础上结合层次结构损失的技术，是未来研究的第一步。

    Nov, 2017

  • 超细粒度实体类型化

    介绍了一种新的实体类型任务，使用头词来进行大规模远程监督，利用多任务目标训练模型，实现对实体类型的预测，对这一方法进行了实验评估并提供相关数据和模型。

    Jul, 2018

  • 领域无关实体链接的细粒度实体类型划分

    该论文介绍了一种可以构建鲁棒实体链接模型的方法，该方法将注意力放在建立细粒度实体属性的模型上，具有更好的泛化性能，使用维基百科类别的大型库存来远程标记数据并训练实体类型模型，使用软类型预测将提及链接到最相似的候选实体上。

    Sep, 2019

  • 层次结构注意力路径排名

    本文介绍了一种新的路径模式表示方法 —— 专注路径排序，以及一种利用类型层次结构的实体从数据中发现新路径模式的 RNN 模型，并在 WN18RR 和 FB15k-237 数据集上展示了比现有方法更好的事实预测任务表现。

    May, 2019

  • 利用来自掩蔽语言模型的弱监督进行超细实体类型识别

    本文提出了使用 BERT 遮盖语言模型 (Masked Language Model) 获得超细粒度实体类型的训练数据，并构建一个输入使其产生预测上下文相关的超类词表中的概念，其可用作类型标签。在实验结果中表明，通过这些自动生成的标签，超细粒度实体类型模型的性能大大提高。同时，我们还展示了这种方法可以用于改进传统的细粒度实体类型。

    Jun, 2021

  • 层次化损失及新资源对于细粒度实体类型和链接的作用

    本文提出了使用双线性映射方法集成层次信息的新方法，相比于平面预测在实体链接和细粒度实体类型分类方面有显著的改进，并在基准 FIGER 数据集上实现了最新的最佳结果。

    Jul, 2018

  • 通过异质部分标签嵌入的实体类型标注噪声降噪

    使用 PLE 的低维度空间嵌入实体提及、文本特征和实体类型，以自动消除知识库标签中的错误，并为每个训练实例估计其类型路径。

    Feb, 2016