关于图神经网络的表达能力
为了填补这一重要方向的空白,我们首次对不同形式定义下增强表达能力的模型进行了综述,具体而言,我们根据三个类别(即图特性增强、图拓扑增强和图神经网络架构增强)对这些模型进行了回顾。
Aug, 2023
本文提出了一个理论框架,可以比较图神经网络架构的表达能力,证明了实用 GNN 的第一近似保证,FGNN 被证明是最具表现力的架构之一,在 Quadratic Assignment Problem 中的应用表明 FGNN 能够比现有的基于谱、SDP 或其他 GNN 架构的算法表现得更好。
Jun, 2020
本文提供了关于图神经网络在推荐系统中表达能力的全面理论分析,考虑了图同构、节点自同构和拓扑接近度等三个层面的表达能力指标,并引入了拓扑接近度指标来评估图神经网络对节点之间结构距离的捕捉能力,从而更好地满足推荐任务的目标。为了验证这一新指标对推荐性能评估的有效性,我们介绍了一种适用于该指标的无学习图神经网络算法,并进行了广泛的实验证明其可解释性在推荐任务中的表现,代码可在给出的链接中获得。
Aug, 2023
本文提出了一种理论框架来分析图神经网络的表达能力和限制,并阐述了如何有效地捕捉不同的图结构。通过提出的一个简单的架构,实验验证了理论的发现,并取得了最先进的性能。
Oct, 2018
对图神经网络进行研究,通过看其在无穷大层神经元的情况下的渐进行为,探讨了 GCNs 的表达能力,发现 GCNs 的表达能力与其底层图的拓扑信息相关,提供了一种基于权值归一化的方法,增强了真实数据下 GCNs 的性能。
May, 2019
通过将图生成模型的基本 GNN 替换为更具表达能力的 GNN,我们研究了 GNN 在分子图生成任务中的表现,通过对 ZINC-250k 数据集上的六种分子生成目标在两种不同生成框架(GCPN 和 GraphAF)中的六种 GNN 的性能进行了分析,实验证明先进的 GNN 确实能够提高 GCPN 和 GraphAF 在分子生成任务中的表现,但 GNN 的表达能力并非良好 GNN-based 生成模型的必要条件,此外,我们还展示了使用先进的 GNN 的 GCPN 和 GraphAF 能在其他 17 种非 GNN-based 图生成方法上(如变分自编码器和贝叶斯优化模型)在提出的分子生成目标(DRD2、Median1、Median2)上取得了最先进的结果,这些目标是药物设计中的重要指标。
Aug, 2023
本文提出了一种基于图双连通性的表达能力度量方法,发现大多数常见 GNN 架构在此度量下缺乏表达能力,但 ESAN 框架具有可证明的表达能力。作者进一步引入 GD-WL 模型,该模型可通过 Transformer 与 Weisfeiler-Lehman 算法相结合来计算表达能力,并通过实验表明其在绝大多数数据集上效果显著优于现有 GNN 架构。
Jan, 2023
本文研究图神经网络中的池化操作的表现力问题,并介绍了一种可以全面维持 message-passing 层的表现力的池化操作设计原则,进而通过实验验证其在图同构检测上的效果。
Apr, 2023