Sep, 2019

具有相关和全局注意力机制的依存感知实体识别

PDF
TL;DR通过语法和树结构，我们使用基于语言学的方法识别实体，并通过相对和全局注意机制增强模型特征，最终在标记空间中线性投影加权向量以预测实体标签，发现该模型可以检测揭示句子中实体类型的单词，并在两个数据集上创立了新的最新技术水平。
named entity recognitionnlpsyntaxattention mechanismsconditional random field
发现论文，激发创造
  • 基于依存的 LSTM-CRF 命名实体识别

    提出了一种简单而有效的依赖树导向的 LSTM-CRF 模型，以对命名实体识别（NER）任务中的完整依赖树进行编码并捕捉其相关属性，从而显著提高 NER 和实现领先水平，并发现依赖关系和依赖树提供的长距离交互是其主要原因。

    Sep, 2019

  • 高效的依赖引导命名实体识别

    该论文探讨了如何更好地利用依存树传达的结构化信息来提高实体识别的性能，新提出的基于依存树指导的实体识别模型在相对较短的运行时间内表现出与传统半 - Markov 条件随机场模型同等的竞争力。

    Oct, 2018

  • 基于双向 LSTM 网络和注意力机制的语义关系分类与潜在实体类型识别

    本文提出了一种新颖的端到端循环神经模型，结合了实体感知的注意力机制和潜在实体类型（LET）方法，以解决语义关系分类任务中现有模型对高级语义和句法特征的过度依赖和未充分利用实体信息等问题。在 SemEval-2010 任务 8 上的实验结果表明，该模型在无需高级特征的情况下胜过现有最先进的模型。

    Jan, 2019

  • 利用句法信息的关键实体识别自适应集成提升

    通过注意力集成和提出的键值内存网络、语法注意力和门机制来利用不同类型的句法信息，提高了命名实体识别，并在六个英语和中文基准数据集上实验。

    Oct, 2020

  • 具有关系关注和类型关注的多任务 Transformer 用于命名实体识别

    本文提出一种多任务 Transformer 模型，该模型将实体边界检测任务整合到命名实体识别任务中，通过关系分类来实现实体边界检测，并采用外部知识库和自注意力及交叉注意力机制来提高解码时实体类型映射的准确性。在多个实验数据集上的实验结果表明，该方法显著提高了生成型 NER 模型的性能。

    Mar, 2023

  • SEE: 基于语法感知的实体嵌入用于神经关系抽取

    本文提出了一种基于语法树和句子嵌入的远程监督关系抽取方法，使用句子和实体的嵌入对关系进行分类，实验结果表明这种方法在真实数据集上取得了最佳的性能。

    Jan, 2018

  • 使用相对位置标签将异构图与实体感知自注意力集成到阅读理解模型中

    提出了一种新的关注模式，将异构图的推理知识集成到变压器架构中，用于解决复杂推理任务。

    Jul, 2023

  • 基于自注意力增强和实体感知嵌入的选择性门，用于远程监督关系抽取

    本研究提出了一种轻量级神经框架，使用实体感知的词嵌入方法、自注意机制和基于丰富语境表示的汇聚门来解决监督远程关系提取的问题和减轻之前机制的缺陷，实现了最高的分类准确性和最佳的实验结果。

    Nov, 2019

  • 实体识别作为依存句法分析

    本文基于图形依存解析思想，利用双仿射模型对输入进行全局视图，探索所有语句中的跨度，以准确预测命名实体，以 Nested NER 为例， 对 8 个语料库进行了评估并取得了所有语料库的 SOTA 性能，最高的准确度增益高达 2.2 个百分点。

    May, 2020

  • 全局指针：一种新的高效基于跨度的命名实体识别方法

    本文提出了一种基于跨度的命名实体识别框架 ——Global Pointer（GP），通过引入一种乘性注意机制来利用相对位置关系，以便在全局范围内考虑开始和结束位置来预测命名实体，并且利用两个模块来组合实体头和实体尾以解决训练过程和推理过程之间的不一致性，同时引入新的分类损失函数来解决不平衡标签问题，大量实验证明，GP 比现有解决方案表现更好。

    Aug, 2022