Aug, 2023

推广路径拓扑图神经网络

PDF
TL;DR图神经网络在各个领域取得了显著进展，但受到称为 1-Weisfeiler-Lehmann 测试的理论约束。尽管最新的高阶图神经网络可以克服这个限制，但它们通常集中于某些图的组成要素，如团或环。然而，我们的研究选择了一条不同的路线，侧重于路径，这在任何图中都是固有的。我们能够构建一个更一般的拓扑视角，并将它与其他拓扑领域的一些已有理论建立联系。有趣的是，在不对图的子结构作出任何假设的情况下，我们的方法在该领域超过早期的技术，达到了几个基准上的最先进性能.
graph neural networks1-weisfeiler-lehmann testpathstopological perspectivestate-of-the-art performance
发现论文，激发创造
  • 路径神经网络：表现力强且准确的图神经网络

    本文引入 Path Neural Network 模型来提高图表达的表达能力，实验证明该模型比 1-WL 算法更加强大，且在图分类和图回归任务中表现良好。

    Jun, 2023

  • 拓扑图神经网络

    TOGL 是一种新颖的层，它将一个图的全局拓扑信息与持久同调结合，可轻松集成到任何类型的 GNN 中，在合成和真实数据集上的分类任务中表现出更好的预测性能。

    Feb, 2021

  • Weisfeiler 和 Leman 进化为神经网络：高阶图神经网络

    本文研究了图神经网络以及其理论背景并将其与 $1$-WL 算法相对比，提出了 $k$-dimensional GNNs 这一扩展方法，证明了它在处理社交网络和分子图像等高阶结构方面的有效性。

    Oct, 2018

  • 探索图神经网络的泛化理解

    研究了图神经网络在泛化上的机制，建立了高概率边界和其对泛化差距和梯度的影响，得出结论和实验证据相符的新认识。

    May, 2023

  • Weisfeiler-Leman 等价类的拓扑特征描述

    本文研究了基于消息传递的图神经网络的分类能力局限，并利用覆盖空间理论生成了构成 GraphCovers 数据集的无法通过 GNN 区分的多个非同构图案例，最终测试结果表明在该数据集中，多种 GNN 结构均无法区分具有相同特征的图。

    Jun, 2022

  • 图神经网络的拓扑感知性和泛化性能研究

    本文介绍了一个综合性框架，用于描述图神经网络在任何拓扑特征上的拓扑感知能力，并研究了拓扑感知对图神经网络的泛化性能的影响。通过案例研究和实证结果，发现提高图神经网络的拓扑感知能力可能会在结构组之间造成不公平的泛化，同时展示了该框架在解决图主动学习中的冷启动问题上的实际适用性。

    Mar, 2024

  • 图神经网络的泛化和表征限制

    本研究关注图神经网络的本质问题：无法仅仅依靠局部信息计算多个重要的图形特征；同时提出了信息传递图神经网络的第一个数据相关泛化界限，这一分析专门考虑了 GNN 局部置换不变性，该边界比现有的基于 VC 维度的 GNN 保证要紧密，与循环神经网络的 Rademacher 界限相当。

    Feb, 2020

  • 图神经网络在恒等效果学习中的泛化限制

    在研究中，我们分析了 Graph Neural Networks 在简单认知任务中的能力，并讨论了其在学习所谓的 “identity effects” 时的一般化特性和基本限制。 我们通过两个案例研究来支持我们的理论分析。

    Jun, 2023

  • 图神经网络与三维拓扑

    本研究测试应用几何深度学习到低维拓扑问题的效果，在一个简单的模型中，使用图神经网络来判断一对图是否给出同构三维多样体，通过监督学习和强化学习来训练和优化神经网络模型的准确率和效率。

    May, 2023

  • 图机器学习基础的未来方向

    机器学习与图神经网络，尤其是使用图神经网络（GNN）的机器学习，在各个领域的图数据广泛应用中受到了广泛关注。然而，对于 GNN 的性质仍存在理论上的不完备性。最近的理论进展主要集中于阐明 GNN 的粗粒度表达能力，主要使用组合技巧。然而，这些研究与实践并不完全一致，特别是在理解使用随机一阶优化技术训练时 GNN 的泛化行为方面。在本文中，我们将论证图机器学习社区需要将关注点转向发展一个更加平衡的图机器学习理论，重点研究表达能力、泛化和优化的相互作用。

    Feb, 2024