具有注意力胶囊网络的多标签关系提取

AAAINov, 2018

具有注意力胶囊网络的多标签关系提取

Multi-labeled Relation Extraction with Attentive Capsule Network

Xinsong Zhang, Pengshuai Li, Weijia Jia, Hai Zhao

TL;DR提出了一种基于胶囊网络的多标签关系提取方法，使用基于注意力机制的路由算法和滑动间隙损失函数来解决关系中部分重叠的问题，并取得了明显的性能提升。

Abstract

To disclose overlapped multiple relations from a sentence still keeps challenging. Most current works in terms of neural models inconveniently assuming that each sentence is explicitly mapped to a relation label, cannot handle multiple relations properly as the overlapped features of the relations are either ignored or very difficult to identify. To tackle w

multi-labeled relation extraction capsule network attention-based routing algorithm sliding-margin loss function performance improvement

发现论文，激发创造

基于动态路由的关注胶囊网络用于关系提取

本研究提出了一种基于胶囊网络和注意力机制的神经网络方法，用于关系提取的多实例多标签学习，实验结果表明该方法显著提高了关系提取的精度，尤其是多实体关系提取。

Dec, 2018

利用胶囊网络改进多头注意力

本文利用胶囊网络对多头注意力中缺乏的不同子空间之间的语义重叠问题进行优化，通过采用动态路由和期望最大化算法进行信息聚类和分离，从而对汉英翻译和英德翻译任务的 Transformer 模型进行改进。

Aug, 2019

面向多标签分类的上下文感知胶囊网络

我们提出了一种改进的胶囊网络架构，包括新的路由权重初始化技术、利用条件随机场利用主要胶囊激活之间的语义关系的改进 CapsNet 设计和基于 Cholesky 变换的相关模块，为多标签分类任务提供了更好的可扩展性。

Oct, 2018

面向大规模多标签文本分类的层次化分类感知及关注图胶囊 RCNNs

我们提出了一种新的层级分类感知和注意图胶囊递归卷积神经网络框架，以实现大规模多标签文本分类。

Jun, 2019

高效的胶囊网络：具有自注意力路由的胶囊网络

本文探讨了胶囊网络的效率问题，使用仅拥有 160K 个参数且具有高度并行可处理路由的极端架构，证明了我们提出的架构仍能够在三个不同的数据集上取得最先进的结果，并成功地开发了一种新型的非迭代路由算法。实验证明了我们方法的有效性和胶囊网络嵌入更易于泛化的视觉表示的能力。

Jan, 2021

基于 Span 和实体注意力机制的实体和重叠关系抽取技术

通过使用标准跨度机制和标记跨度机制、构建实体注意力机制，本研究提出了一种完全解决三元组重叠问题的信息抽取方法，并在两个公共数据集上进行了测试。该方法在这两个数据集上达到最佳性能。

Apr, 2023

基于文档级图卷积神经网络的句间关系提取

本文提出了一种新的文档级图形结构的交叉句关系提取模型，该模型利用各种句间和句内依赖关系构建图形，并利用多实例学习和双仿射配对评分来预测实体对之间的关系。实验结果表明，该模型在两个生物医学数据集上的表现与最先进的神经模型相当，并且文中提到的所有图形类型对于交叉句关系提取都是有效的。

Jun, 2019

利用协作关系增强注意力提升长尾关系抽取

本文提出一种新的神经网络模型 ——Collaborating Relation-augmented Attention (CoRA) 去处理关系提取中的错误标注和长尾关系，并基于此在指标 Precision@N, AUC 和 Hits@K 上显著优化了基准数据集 NYT 的表现。

Oct, 2020

基于强化学习的 N 元交叉句子关系抽取

本文提出了一种新的句子分布估计模型和全新的关系抽取器，通过较弱的远程监督假设以及两级强化学习模型选择正确标记的句子来解决嘈杂数据的影响，最终达到比基线模型更好的 n-ary 跨句子关系提取任务性能。

Sep, 2020

基于胶囊网络的知识图谱补全与搜索个性化嵌入模型

本文提出了一种名为 CapsE 的嵌入模型，探索了胶囊网络来模拟关系三元组（主体、关系、客体），该模型通过卷积层将三列矩阵表示的关系三元组映射为胶囊并计算得分，测试结果表明在 WN18RR 和 FB15k-237 数据集上表现优于之前的嵌入模型，而且在 SEARCH17 中也优于强化搜索个性化的基线模型。

Aug, 2018