Apr, 2020

让我们达成一致：比较基于消息传递框架下的图卷积网络

PDF
TL;DR本文将图上定义的神经网络呈现为信息传递神经网络（MPNN），通过研究不同类别的这些模型的区别能力，探讨它们的识别能力，研究传统的图神经网络和卷积图神经网络对顶点进行特征标注的能力的界限，并使用 Weisfeiler-Lehman 算法对 MPNNs 的区分能力进行了上下界的研究。
neural networksmessage-passinggraphgraph convolutional networksweisfeiler-lehman algorithm
发现论文，激发创造
  • 突破消息传递图神经网络的限制

    本文研究了基于图传递的神经网络（MPNNs），通过在频域设计非线性的自定义滤波器函数并使用任意大的感受野进行掩膜，其理论上比 1-WL 测试显得更加强大，且实际上具有与现有 3-WL 模型同样的性能，同时仍保持局部化。通过本方法可以实现 LOD 更新机制和输出谱复杂性，从而在许多下游任务中达到先进水平。

    Jun, 2021

  • 图神经网络的细粒度表达能力

    该研究探讨了基于图神经网络的表达能力，提出了一种连续化的方法来反映图之间的相似程度并给出了各种拓扑特征的理论框架来描述基于树距离的图表达能力。

    Jun, 2023

  • 大规模随机图上消息传递神经网络的泛化分析

    研究了 MPNN 在图分类和回归中的泛化误差，表明 MPNN 的复杂度越高，泛化差距越大；同时，不仅训练样本数，而且图中平均节点数对泛化差距也有影响。从统一收敛结果导出泛化界限，表明在图上应用 MPNN 可以逼近离散化的几何模型上的 MPNN。

    Feb, 2022

  • 几何图卷积神经网络：Geom-GCN

    本文提出了一种新的基于几何学聚合的 aggregation 方案，包含三个模块：节点嵌入，结构化邻域和双层聚合，并将其实现到图卷积网络中，命名为 Geom-GCN。在多个开放数据集上的实验结果表明，Proposed Geom-GCN 已经达到了当前状态的最佳性能。

    Feb, 2020

  • 图神经网络的能力超出我们的想象

    本研究提出一种使用特殊算法和线性代数工具来分析图神经网络 (GNNs) 的表征能力的方法，证明 NNG 可以优于 Weisfeiler-Lehman 算法，同时在图同构和图分类等数据集上进行充分实验证明了这种新型的 GNN 架构更具表达力的特点。

    May, 2022

  • 图神经网络从结构信息中可得证明的益处：视作特征学习角度

    本研究旨在通过研究梯度下降训练中神经网络中的特征学习理论中图卷积的作用，提供了两层图卷积网络与两层卷积神经网络之间的信号学习和噪声记忆的不同表征，发现图卷积显着增强了对手 CNN 的良性过拟合的范围，并且在梯度下降训练后， GNNs 和 MLPs 在特征学习和泛化能力方面存在重大差异，这一结论在我们的实证模拟中得到了进一步证实。

    Jun, 2023

  • 邻居间通信：面向强大和可扩展的图神经网络

    提出了一种基于 1-WL 和邻居之间的边缘考虑的 NC-1-WL 算法，实现了图同构测试，提高了图神经网络的可表达性；进一步提出了 NC-GNN 框架作为 NC-1-WL 的可微分神经版本，能够在各种基准测试中实现出色的性能。

    Jun, 2022

  • 混合图上的消息传递网络的泛化界限

    研究了消息传递神经网络（MPNNs）的泛化能力，并给出了具体适用于具有规范化求和和平均聚合的 MPNNs 的泛化边界。在更现实和具有挑战性的情境下，通过分析简单的随机图、扰动的图标和稀疏图，得出结论表明，只要图形足够大，比训练集的大小复杂，MPNNs 仍然可以有效地泛化。

    Apr, 2024

  • 图神经网络与图增强型多层感知机比较

    本文比较了多层图神经网络和一种被称为图增强多层感知器的简化替代品之间的表现，其中后者首先通过图上的某些多跳算子增强节点特征，然后以节点方式应用 MLP；并证明了 GA-MLP 具备适当算子的情况下，能像 Weifeiler-Lehman（WL）测试一样，理论和数值上能够区分几乎所有非同构图，但是 GA-MLP 与 GNN 之间在表达能力方面的差距随着深度呈指数增长，并且 GA-MLP 不能计算属性步行的数量，表明 GA-MLP 受其操作符族的选择限制比拥有更高学习灵活性的 GNN 更为受限，这在社区检测实验中也得到了证明。

    Oct, 2020

  • KerGNNs: 基于图核的可解释图神经网络

    本文提出了一种新的 GNN 框架，称为 “核图神经网络”，将图核函数集成到 GNN 的消息传递过程中，通过卷积滤波器使用可训练图作为图过滤器与子图相结合来更新节点嵌入，并显示 MPNN 可以视为 KerGNN 的特殊情况，该方法在多个图相关任务中表现出具有竞争力的性能，并提高了模型可解释性与传统 GNN 模型相比。

    Jan, 2022