Jul, 2024

全局 - 局部关注机制的关系分类

PDF
TL;DR本文介绍了一种新颖的全局 - 局部注意机制用于关系分类，通过将全局注意力与局部关注度相结合来提升全局关注度。此外，我们提出了创新的硬与软定位机制，以识别局部注意的潜在关键字。通过同时融入硬和软定位策略，我们的方法对有效关系分类的语境线索提供了更加细致全面的理解。我们在 SemEval-2010 任务 8 数据集上的实验结果显示了我们的方法相对于前期关注机制的优越性能。
relation classificationattention mechanismglobal-local attentionlocalization mechanismscontextual cues
发现论文，激发创造
  • 面向文档级关系抽取的全局 - 局部神经网络

    本文提出了一种新的模型对文档级别关系抽取进行建模，该模型能够对全局和局部的实体表示以及上下文关系表示进行编码并提供更好的实验结果。

    Sep, 2020

  • 利用知识关注力提高关系提取

    本文提出了一种新颖的知识 - 注意力编码器，并介绍了三种将知识 - 注意力与自注意力相结合的有效方法。提出的关系提取系统是端到端和完全基于注意力的，实验证明知识 - 注意力机制与自注意力相互补充，在 TACRED 上实现了最先进的性能，并且胜过了现有的 CNN、RNN 和自注意力模型。

    Oct, 2019

  • 关系感知全局注意力实现人员再识别

    本研究提出了一种关系感知全局注意力 (RGA) 模块，可以全面抓取全局结构信息以增强特征表示能力，实现了人员复识别 (Re-id) 领域的最新技术成果.

    Apr, 2019

  • 具有相关和全局注意力机制的依存感知实体识别

    通过语法和树结构，我们使用基于语言学的方法识别实体，并通过相对和全局注意机制增强模型特征，最终在标记空间中线性投影加权向量以预测实体标签，发现该模型可以检测揭示句子中实体类型的单词，并在两个数据集上创立了新的最新技术水平。

    Sep, 2019

  • 基于知识图谱和改进注意力机制的文本分类

    为了解决文本中的语义模糊问题，我们提出了一个模型，创新地将知识图谱与改进的注意机制结合起来。该模型在字符和词级别上运作，通过集成概念来加深对文本的理解。我们首先采用信息增益选择重要词，然后采用编码器 - 解码器框架对文本及相关概念进行编码。本地注意机制调整每个概念的权重，在分类过程中减少不相关或噪声概念的影响。我们改进了本地自注意机制中注意分数的计算公式，确保文本中不同频率出现的词语获得更高的注意分数。最后，该模型采用了双向门控循环单元（Bi-GRU），从文本中提取特征以提高分类准确性。该模型在 AGNews、Ohsumed 和 TagMyNews 等数据集上达到了 75.1%、58.7% 和 68.5% 的准确率，展示了其在分类任务中的有效性。

    Jan, 2024

  • 基于自注意力增强和实体感知嵌入的选择性门，用于远程监督关系抽取

    本研究提出了一种轻量级神经框架，使用实体感知的词嵌入方法、自注意机制和基于丰富语境表示的汇聚门来解决监督远程关系提取的问题和减轻之前机制的缺陷，实现了最高的分类准确性和最佳的实验结果。

    Nov, 2019

  • 全局关系嵌入用于关系提取

    通过收集全文的文字和知识库关系的共现统计数据，利用文本关系嵌入来处理远程监督下错误标记的问题，从而增强了现有的关系提取模型，在常用关系提取数据集上，将精度从 83.9％提高到 89.3％。

    Apr, 2017

  • 自注意力网络的本地性建模

    本篇研究提出了一种基于学习性高斯偏置的自注意力网络的局部特征建模方法，能够从更细致的角度获取有用的局部上下文信息，通过实验验证证明该方法能够有效地应用于翻译任务中。

    Oct, 2018

  • 使用图形注意力学习图像文本匹配的双重语义关系

    本文提出了一种名为双重语义关系注意力网络 (DSRAN) 的新型图注意力方法，该方法主要由两个模块组成，分别进行不同层次的语义关系学习，从而提高图像文本匹配的准确性，并在 MS-COCO 和 Flickr30K 数据集上取得了显著优于以往方法的效果。

    Oct, 2020

  • 关于增强文档级关系抽取的实体提及关系特定注意力

    这篇论文提出了一种名为 RSMAN 的模型，通过选择性关注文档中不同实体提及的关系，从而获得灵活且关系特定的实体表示，显著提高了一些主体模型的性能表现，特别是当实体在文档中有多个提及时。

    May, 2022