May, 2024

身着荣誉：自注意力与虚拟节点

PDF
TL;DR图形转换器是与全局自注意结合的消息传递 GNN 的图形处理模型，它们被证明是通用的函数逼近器，但依赖于位置编码来扩展初始节点特征。此研究对比了图形转换器和更高效的消息传递 GNN + 虚拟节点结构在图形大小上的一致表达性，并证明两种模型的表达能力不相互包含。实验结果表明在实践中无法明确排名。
发现论文，激发创造
  • 一种通用、强大、可扩展的图变换器配方

    本研究提出了一种关于如何构建通用、强大、可扩展的图形 Transformer 的方案，其中包括位置 / 结构编码、本地消息传递机制、全局注意机制等主要条件，可适用于小规模和大规模图形，并在 16 项基准测试中取得高竞争力的结果。

    May, 2022

  • SignGT: 基于有符号关注机制的图转换器用于图表示学习

    提出了一种基于签名注意力的图变换器（SignGT），用于自适应地从图中捕获各种频率信息，并通过引入邻域偏置以保留局部拓扑信息学习信息节点表示。

    Oct, 2023

  • 图神经网络与图增强型多层感知机比较

    本文比较了多层图神经网络和一种被称为图增强多层感知器的简化替代品之间的表现，其中后者首先通过图上的某些多跳算子增强节点特征，然后以节点方式应用 MLP；并证明了 GA-MLP 具备适当算子的情况下，能像 Weifeiler-Lehman（WL）测试一样，理论和数值上能够区分几乎所有非同构图，但是 GA-MLP 与 GNN 之间在表达能力方面的差距随着深度呈指数增长，并且 GA-MLP 不能计算属性步行的数量，表明 GA-MLP 受其操作符族的选择限制比拥有更高学习灵活性的 GNN 更为受限，这在社区检测实验中也得到了证明。

    Oct, 2020

  • 图注意力网络

    本文提出新颖的神经网络结构图注意力网络（GATs），利用掩码的自我关注层处理图结构化数据的缺点，有效提出解决谱学派图神经网络中的几个关键挑战的方法，并在四个数据集上取得了最先进的结果。

    Oct, 2017

  • AnchorGT：用于可扩展图变换器的高效灵活的注意力架构

    通过全局感受野和几乎线性的复杂度，AnchorGT 提出了一种新颖的注意力结构，用于改进各种 GT 模型的可扩展性，实现更高的效果和更高的内存效率。

    May, 2024

  • 通用图形 Transformer 自注意力网络

    本文介绍了一种基于 Transformer 的 GNN 模型，叫做 UGformer，用于学习图表示。UGformer 有两个变体，第一个变体利用 Transformer 对每个输入节点的一组采样邻居进行编码，第二个变体利用 Transformer 对所有输入节点进行编码。实验结果表明，第一个变体在归纳和非监督转导设置下实现了基准数据集上的最新最准确统计，第二个变体在归纳文本分类中获得了最高准确率。

    Sep, 2019

  • 稀疏图注意力网络

    该论文提出了一种基于 L0 正则化的 Sparse Graph Attention Networks，可以对大规模、复杂的图进行特征聚合，鲁棒性与有效性更高，达到与原始图相同或更高的预测性能；同时，其使用结果可视化和量化表达，让人更加容易理解。

    Dec, 2019

  • 基于混合聚焦和全范围注意力的图变换器

    基于纯注意力机制的 FFGT 图形 Transformer 可以缓解学习全局相关性时丢失本地信息的问题，并通过将全融注意力与邻域注意力相结合来聚合全局和本地信息，从而提高了现有图形 Transformer 在各种开放数据集上的性能。

    Nov, 2023

  • 节点和图学习的费舍尔信息嵌入

    本论文提出了一种新颖的基于注意力机制的节点嵌入框架，该框架使用基于节点周围子图集合的分层核，并使用一个光滑的统计流形来比较多组集合，从而明确计算与高斯混合嵌入流形的传播注意，其应用在节点分类任务上，取得了优于现有模型的效果。

    May, 2023

  • 大规模图的图转换器

    本研究使用可扩展的图转换器（GT）框架来进行单个大规模图的表示学习，并提出了快速的采样技术和局部注意机制，以解决全局注意机制在大规模图上的计算复杂性问题。在三个大规模节点分类基准测试中，我们验证了 LargeGT 框架，并取得了 3 倍的加速和 16.8％的性能提升。

    Dec, 2023