Jan, 2019

基于双向 LSTM 网络和注意力机制的语义关系分类与潜在实体类型识别

PDF
TL;DR本文提出了一种新颖的端到端循环神经模型，结合了实体感知的注意力机制和潜在实体类型（LET）方法，以解决语义关系分类任务中现有模型对高级语义和句法特征的过度依赖和未充分利用实体信息等问题。在 SemEval-2010 任务 8 上的实验结果表明，该模型在无需高级特征的情况下胜过现有最先进的模型。
relation classificationnatural language processingrecurrent neural modelentity-aware attention mechanismlatent entity typing
发现论文，激发创造
  • 利用实体信息丰富预训练语言模型用于关系分类

    本研究提出了一种模型，结合了预训练的 BERT 语言模型和目标实体信息，来解决关系分类任务。通过定位目标实体和在预训练模型中传递信息，并整合两个实体的相应编码信息，我们在 SemEval-2010 任务 8 关系数据集上取得了显著的改进。

    May, 2019

  • 具有关系关注和类型关注的多任务 Transformer 用于命名实体识别

    本文提出一种多任务 Transformer 模型，该模型将实体边界检测任务整合到命名实体识别任务中，通过关系分类来实现实体边界检测，并采用外部知识库和自注意力及交叉注意力机制来提高解码时实体类型映射的准确性。在多个实验数据集上的实验结果表明，该方法显著提高了生成型 NER 模型的性能。

    Mar, 2023

  • 具有相关和全局注意力机制的依存感知实体识别

    通过语法和树结构，我们使用基于语言学的方法识别实体，并通过相对和全局注意机制增强模型特征，最终在标记空间中线性投影加权向量以预测实体标签，发现该模型可以检测揭示句子中实体类型的单词，并在两个数据集上创立了新的最新技术水平。

    Sep, 2019

  • 通过建模提及之间的潜在关系来提高实体链接

    本研究提出了一种新的神经实体链接模型，将实体链接中的关系视为潜在变量，并在优化实体链接系统的同时诱导这些关系，同时取得了 AIDA-CoNLL 基准测试上最好的结果。

    Apr, 2018

  • 建模潜在实体类型信息以提升实体链接

    提出一种基于 BERT 预训练和实体相似度分数的实体链接模型，通过注入潜在的类型信息到实体嵌入中，并结合一种基于 BERT 的实体相似度分数，显著提高了实体链接模型的性能。

    Jan, 2020

  • 带实体类型限制的关系分类

    本文中，我们提出了一个新的模型架构，称为 RECENT，它利用实体类型限制候选关系，并形式化介绍了关系和实体类型之间的相互约束关系。在 GCN 和 SpanBERT 这两个表现较好的模型上进行实验，实验结果表明，RECENT 可以分别提升它们 6.9 个和 4.4 个 F1 点，并且 RECENT_SpanBERT 在 TACRED 上取得了新的最佳效果。

    May, 2021

  • 双向 LSTM-CNN 命名实体识别

    本文提出了一种新颖的神经网络模型，利用混合双向 LSTM 和 CNN 架构自动检测单词和字符级特征，并提出了一种将部分词典匹配编码到神经网络中的方法。经过广泛评估，使用两个来自公开资源的词典，该系统在 CoNLL-2003 数据集上达到 91.62 的 F1 分数，在 OntoNotes 上达到 86.28 的 F1 分数，超过了其他采用重度特征工程、专有词典和丰富的实体链接信息的系统。

    Nov, 2015

  • SEE: 基于语法感知的实体嵌入用于神经关系抽取

    本文提出了一种基于语法树和句子嵌入的远程监督关系抽取方法，使用句子和实体的嵌入对关系进行分类，实验结果表明这种方法在真实数据集上取得了最佳的性能。

    Jan, 2018

  • 稀疏注意力神经网络联合训练的序列标记和分类

    提出一种利用 LSTM 网络同时学习句子级别分类任务和序列标注任务的模型，通过语义相关性对单词进行加权的稀疏注意力机制，该方法在 ATIS 和 TREC 数据集上表现优于基准模型。

    Sep, 2017

  • 利用句法信息的关键实体识别自适应集成提升

    通过注意力集成和提出的键值内存网络、语法注意力和门机制来利用不同类型的句法信息，提高了命名实体识别，并在六个英语和中文基准数据集上实验。

    Oct, 2020