Apr, 2024

多关系图的分层注意力模型

PDF
TL;DR我们提出了 Bi-Level Attention-Based Relational Graph Convolutional Networks (BR-GCN)，这是一种利用具有关系图卷积的掩码自注意力层的独特神经网络架构，能够有效处理高度多关系数据。通过节点级别和关系级别的注意力机制，BR-GCN 模型通过节点级自注意层和关系级自注意层学习节点嵌入，从而在大规模异构图上超过了现有的基线模型。
bi-level attention-based relational graph convolutional networksmasked self-attentional layersrelational graph convolutionsnode-level attentionrelation-level attention
发现论文，激发创造
  • 双层注意力图神经网络

    本文提出了一种可扩展的 Bi-Level Aufmerksamkeitsgraph-neuronale Struktur (BA-GNN)，该结构使用新的双层图注意机制，以从局部邻域上下文中层次化地注意来自本地邻域上下文的节点 - 节点和关系 - 关系交互，该方法用于有效建模多关系和多实体的大规模异构图。该方法被证明在七个真实世界的异构图上表现良好，并显示了学习到的关系 - 级别注意力的质量和可转移性，在提高其他 GNN 性能方面也得到应用。

    Apr, 2023

  • 关系图注意力网络

    探究关系图注意力网络模型及其在分子属性建模中的应用。在与已建立的基准的比较中，相较于预期，发现关系图注意力网络表现较差；另提出了改进评估策略，以及未来方向的建议。

    Apr, 2019

  • 基于边缘注意力的多关系图卷积网络

    该论文提出了一种基于边注意力的多关系图卷积网络 (EAGCN) 模型，可用于多个化学数据集中学习化合物的属性，通过设计边注意力字典以及在不同分子中查找该字典以形成每个分子的注意力矩阵，进而实现对不同分子大小的聚合节点特征预测的独立性。

    Feb, 2018

  • DAGCN: 双重注意力图卷积网络

    本研究提出了一种新的框架，双注意力图卷积网络，用于解决图分类任务中邻域汇聚和池化操作的问题，并通过实验比较证明了该模型优于其他基线模型和深度学习方法。

    Apr, 2019

  • RBA-GCN: 情绪识别的关系双层聚合图卷积网络

    通过构建新颖的图形及聚类方法，以及利用双层聚合模型捕获多模态相互作用和长程信息，提出一种提高情绪识别在对话中性能的新方法，该方法在多个数据集上相较于最先进的方法，F1 分数有 2.17％~5.21％的提升。

    Aug, 2023

  • 自注意力增强的图卷积网络：结构学习和节点嵌入

    本研究提出了一种名为 GCN-SA 的新型图学习框架，它具有出色的节点级表示学习的泛化能力，并且通过自注意机制和改进的转换器块实现了对长程依赖关系的捕捉，从而使其能够在具有不同程度同质性的图上进行表示学习。

    Mar, 2024

  • 用图卷积网络建模关系型数据

    我们介绍了关系图卷积网络 (R-GCNs) 并将它们应用于标准的知识库补全任务，包括链接预测和实体分类。R-GCNs 旨在应对实际知识库中高度多关系数据的特点，我们证明了它们作为一个独立模型在实体分类方面的有效性，并进一步证明，通过在关系图中累积多个推理步骤的编码器模型来丰富解码器模型，可以极大地提高因子分解模型 (例如 DistMult) 在链接预测方面的表现 (在 FB15k-237 上的表现提高了 29.8%)。

    Mar, 2017

  • 基于自注意力图网络的知识库半监督训练在链接预测上的应用

    本文提出了一种基于自我注意机制的改进图神经网络（GNN）方法以及一个基于预训练模型的半监督自我训练方法。实验结果表明这些方法都可以有效地提高链接预测任务的性能。

    Sep, 2022

  • 图注意力回顾

    本文针对图神经网络进行多个实验，并研究其在节点分类问题中的理论表现。研究结果指出，图注意力机制可以区分类内和类间边缘，重要边的权重得以保留，进而实现完美的节点分类。

    Feb, 2022

  • 图注意力网络

    本文提出新颖的神经网络结构图注意力网络（GATs），利用掩码的自我关注层处理图结构化数据的缺点，有效提出解决谱学派图神经网络中的几个关键挑战的方法，并在四个数据集上取得了最先进的结果。

    Oct, 2017