Mar, 2022

关于消息传递神经网络作为全局特征图变换器的表达能力

PDF
TL;DR本文探讨了消息传递神经网络（MPNN）在转换其输入图中节点存储的数字特征方面的能力。我们引入了全局特征映射变换器（GFMT）的概念，并以 GFMT 的基本语言 MPLang 作为表现能力的标准。我们考虑了精确与近似表现力、任意激活函数的使用以及只允许使用 ReLU 激活函数的情况。
message-passing neural networksglobal feature map transformerexpressivenessactivation functionsnumerical features
发现论文，激发创造
  • 图神经网络的从局部到全局视角

    该论文从局部到全局的角度，介绍了图神经网络的两种类型 —— 局部信息传递神经网络和全局图变换器，并对不变图网络的收敛特性进行了研究；连接局部信息传递神经网络和全局图变换器；使用局部信息传递神经网络实现了图缩减等全局建模中常用的子程序。

    Jun, 2023

  • 图神经网络中池化的表达能力

    本文研究图神经网络中的池化操作的表现力问题，并介绍了一种可以全面维持 message-passing 层的表现力的池化操作设计原则，进而通过实验验证其在图同构检测上的效果。

    Apr, 2023

  • 具有图形原始信息的提升消息传递神经网络

    本文研究如何全面利用信息，从理论和实践上提高信息传递神经网络的表现力和可推广性，并提出一种新的名为 INGNN 的图神经网络模型，针对节点分类任务，与目前最先进的方法相比，实验证明其优越性（平均排名 1.78）。

    Oct, 2022

  • 图神经网络的细粒度表达能力

    该研究探讨了基于图神经网络的表达能力，提出了一种连续化的方法来反映图之间的相似程度并给出了各种拓扑特征的理论框架来描述基于树距离的图表达能力。

    Jun, 2023

  • 让我们达成一致：比较基于消息传递框架下的图卷积网络

    本文将图上定义的神经网络呈现为信息传递神经网络（MPNN），通过研究不同类别的这些模型的区别能力，探讨它们的识别能力，研究传统的图神经网络和卷积图神经网络对顶点进行特征标注的能力的界限，并使用 Weisfeiler-Lehman 算法对 MPNNs 的区分能力进行了上下界的研究。

    Apr, 2020

  • 稀疏几何 MPNN 的表达能力研究

    研究了信息传递神经网络在几何图形中的表达能力，证明了当底层图形是连通的时候，具有旋转等变特征的信息传递网络能够分离非等价的几何图形，并介绍了一个简单的结构，EGENNET，在合成和化学基准测试中取得了理论保证并与其他结构相比较有利。

    Jul, 2024

  • 等变矩阵函数神经网络

    矩阵函数神经网络是一种新颖的架构，通过分析的矩阵等变函数参数化非局部交互。在标准图形基准测试中，MFN 架构实现了最先进的性能，并能够捕捉量子系统中复杂的非局部交互，为新的最先进力场铺平了道路。

    Oct, 2023

  • 使用结构消息传递构建强大且等变的图神经网络

    通过在节点特征的基础上传播节点的 One-hot 编码，以学习每个节点周围的本地上下文矩阵以及保证置换等变性的消息和更新函数，我们提出了一种具有强大表达能力和等变性的消息传递框架，用于对图形网络进行建模，实验表明本模型可以更准确地预测合成数据上的图形拓扑性质，并在 ZINC 数据集的分子图回归任务中取得了最优结果。

    Jun, 2020

  • 关于图神经网络的表达能力

    该论文概述了图神经网络的 “表达能力” 概念，并就图神经网络的设计选择提供了有价值的见解。

    Jan, 2024

  • 图神经网络与图增强型多层感知机比较

    本文比较了多层图神经网络和一种被称为图增强多层感知器的简化替代品之间的表现，其中后者首先通过图上的某些多跳算子增强节点特征，然后以节点方式应用 MLP；并证明了 GA-MLP 具备适当算子的情况下，能像 Weifeiler-Lehman（WL）测试一样，理论和数值上能够区分几乎所有非同构图，但是 GA-MLP 与 GNN 之间在表达能力方面的差距随着深度呈指数增长，并且 GA-MLP 不能计算属性步行的数量，表明 GA-MLP 受其操作符族的选择限制比拥有更高学习灵活性的 GNN 更为受限，这在社区检测实验中也得到了证明。

    Oct, 2020