细粒度实体类型分类的神经架构

ACLJun, 2016

Neural Architectures for Fine-grained Entity Type Classification

Sonse Shimaoka, Pontus Stenetorp, Kentaro Inui, Sebastian Riedel

TL;DR本文采用几种神经网络结构进行细粒度实体类型分类研究，并考虑了对最近提出的注意力神经结构的扩展，得出了三个关键贡献：结合学习和手工特征，同时观察它们互补作用；定量分析表明该注意力机制能够学习关注句法头和包含提及的短语，在我们的任务中，这些都是强大的手工特征；通过分层标签编码方法实现参数共享，在低维投影中显示出每种类型层次的明显聚类；虽然使用相同的评估数据集，但文献经常比较使用不同数据训练的模型，我们发现训练数据的选择对性能有显着影响，甚至会降低先前提出的方法的松散微 F1 得分高达 9.85％，但我们的最佳模型在广为人知的 FIGER（GOLD）数据集上实现了最新成果，松弛的微 F1 得分为 75.36％。

Abstract

In this work, we investigate several neural network architectures for fine-grained entity type classification. Particularly, we consider extensions to a recently proposed attentive neural architecture and make th

neural network entity type classification attention mechanism hierarchical label encoding training data

发现论文，激发创造

一种细粒度实体类型分类的注意力神经网络架构

本文提出了一种新颖的基于注意力机制的神经网络模型，用于精细分类实体类型，与以前的模型不同的是，我们的模型递归地构建实体提及上下文的表示。我们的模型在著名的 FIGER 数据集上实现了 74.94% 的松散微平均 F1 分数，相对提高了 2.59％。我们还研究了我们的模型中注意机制的行为，并观察到它可以学习表明实体精细类别成员资格的上下文语言表达式。

Apr, 2016

通过增加话语上下文和自适应分类阈值进行细粒度实体类型划分

本文提出了一种神经架构模型，用于将 fine-grained 语义类型分配给实体提及，并学习利用比以前更多的语义上下文信息（文档和句子级别）的分布式语义表示。实验结果表明，该方法在三个基准数据集上取得了最先进的结果，而不需要手工特征。

Apr, 2018

基于路径注意力机制的细粒度实体类型识别神经模型

该研究提出了一种名为 PAN 的端到端实体类型模型，通过利用类型的层次结构来学习噪声鲁棒性，该模型有效避免了在训练过程中的标签噪声和错误传播问题。

Oct, 2017

具有层级感知损失的神经细粒度实体类型分类

本研究提出了一种基于神经网络模型的端到端解决方案，使用一种变种的交叉熵损失函数来处理上下文外标签，并使用分层损失规范化来处理过于特定的标签，利用公共词嵌入来训练单标签，从而同时学习实体提及及其上下文的表示，实验证明该方法对噪声具有鲁棒性，并在任务的已有基准测试中持续超过现有技术水平。

Mar, 2018

命名实体识别的神经网络结构

本文介绍基于双向 LSTM 和条件随机场，以及基于转移的方法的两种新的神经网络模型，这些模型不依赖于领域特定的知识和语言。通过使用监督语料库和未标注语料库，字符表示和无监督的学习表示，这些模型在四种语言中实现了名词实体识别的最先进性能。

Mar, 2016

基于精细表示的远程监督数据细粒度命名实体识别

本文提出了一种基于图卷积网络的方法，通过关注语料库级别的上下文提示来提炼含噪声的命名实体类型，实验证明该方法相对于现有研究提高了 10.2％和 8.3％的总体宏 / 微 F1 得分。

Apr, 2020

领域无关实体链接的细粒度实体类型划分

该论文介绍了一种可以构建鲁棒实体链接模型的方法，该方法将注意力放在建立细粒度实体属性的模型上，具有更好的泛化性能，使用维基百科类别的大型库存来远程标记数据并训练实体类型模型，使用软类型预测将提及链接到最相似的候选实体上。

Sep, 2019

为细粒度特征表征嵌入标签结构

本文提出了一种多任务学习框架，同时优化分类和相似性约束，将标签结构（如层次结构或共享属性）嵌入到框架中以建模多级相关性，从而实现精细的特征表示，并在细粒度数据集上得到了非常竞争的性能。

Dec, 2015

使用 TypeNet 进行更细粒度的实体类型划分

介绍了 TypeNet 数据集，该数据集由 1941 个类型组成，通过人工注释从 1081 个 Freebase 类型映射到 WordNet。本文还探讨了几种与先进系统可比的模型，以及在标准提及类型损失的基础上结合层次结构损失的技术，是未来研究的第一步。

Nov, 2017

越南语命名实体识别的注意力神经网络

提出了一种用于越南语命名实体识别的注意力神经网络，其利用基于字符的语言模型和词嵌入来编码单词向量表示，并利用编码器、注意力和解码器层的神经网络架构来编码输入句子的知识和标记实体标签。实验结果表明，与手工制作特征模型和神经模型相比，所提出的注意力神经网络在越南的基准命名实体识别数据集上实现了最先进的结果。

Oct, 2018