图神经网络的学习方式：从函数空间训练动态中获得的教训

Oct, 2023

图神经网络的学习方式：从函数空间训练动态中获得的教训

How Graph Neural Networks Learn: Lessons from Training Dynamics in Function Space

Chenxiao Yang, Qitian Wu, David Wipf, Ruoyu Sun, Junchi Yan

TL;DR图神经网络的学习动态可以重新构建为一个更熟悉的标签传播框架，因为这个过程中存在图的归纳偏差，从而提供了为什么学习后的图神经网络函数能成功推广以及在异构图上的病态行为的解释。实际上，稀疏化和实施学习动力学导致了一种具有经典算法效率和现代图神经网络效果的极简半监督学习算法。

Abstract

A long-standing goal in deep learning has been to characterize the learning behavior of black-box models in a more interpretable manner. For graph neural networks (GNNs), considerable advances have been made in formalizing what functions they can represent, however it remains less clea

deep learning graph neural networks learning dynamics label propagation semi-supervised learning

发现论文，激发创造

在连续图扩散函数空间中重新思考和重新设计图神经网络

本文提出了一种基于变分分析的归纳偏差方法以增强图神经网络的长距离依赖和全局模式捕捉能力，并采用总变差方法对图扩散模式与社区拓扑进行对齐，最后构建了一种能够预测图中传播流的生成对抗网络。最终，我们的方法在 Cora、Citeseer 和 Pubmed 等著名图学习数据集上实现了最新的性能水平。

Jul, 2023

图机器学习基础的未来方向

机器学习与图神经网络，尤其是使用图神经网络（GNN）的机器学习，在各个领域的图数据广泛应用中受到了广泛关注。然而，对于 GNN 的性质仍存在理论上的不完备性。最近的理论进展主要集中于阐明 GNN 的粗粒度表达能力，主要使用组合技巧。然而，这些研究与实践并不完全一致，特别是在理解使用随机一阶优化技术训练时 GNN 的泛化行为方面。在本文中，我们将论证图机器学习社区需要将关注点转向发展一个更加平衡的图机器学习理论，重点研究表达能力、泛化和优化的相互作用。

Feb, 2024

图学习理论的基础与前沿

图形学习的理论基础、突破和挑战以及可能的解决方案的综合概述。

Jul, 2024

使用图神经网络学习复杂系统的动力学和结构

本研究训练了图神经网络以适应来自非线性动力系统的时间序列，发现了学习表示和模型组件的简单解释，并成功地确定了 ' 图翻译器 '，使两种新类型广义：仅基于时间序列观测来恢复新系统实例的潜在结构，或者直接从该结构构造新网络。结果表明，理解复杂系统的动态和结构及其如何用于泛化的途径。

Feb, 2022

探索图神经网络的泛化理解

研究了图神经网络在泛化上的机制，建立了高概率边界和其对泛化差距和梯度的影响，得出结论和实验证据相符的新认识。

May, 2023

用 Hamiltonian 图神经网络直接从轨迹中发现符号规律

利用哈密尔顿图神经网络 (HGNN) 直接从物理系统轨迹学习系统动力学，推断能量泛函的根本方程，并从物理系统轨迹中透明地发现相互作用定律。

Jul, 2023

动态图神经网络调查

图神经网络已成为从图结构数据中有效挖掘和学习的强大工具，但大多数研究侧重于静态图，忽视了真实世界网络的动态特性，该论文提供了对基本概念、关键技术和最新动态图神经网络模型的全面综述。

Apr, 2024

探索因果学习通过图神经网络：深度综述

图神经网络 (GNNs) 在因果学习中的应用和发展进行了全面的综述，包括分类和应用等方面，提供了与实际研究相关的数据集，同时探讨了因果学习在不同领域的应用，为机器学习这一快速发展领域的挑战和未来的研究方向提供了启示。

Nov, 2023

流式图神经网络

本文提出一种新的动态图神经网络模型 DGNN，能够利用图的动态信息，通过捕捉边之间的顺序信息、边之间的时间间隔和信息传播一致性，不断更新节点信息，以适应不断发展变化的图，实验结果证明了该框架的有效性。

Oct, 2018

学习图神经网络的离散结构

本文提出了一种联合学习图结构和图卷积网络参数的方法，从而可以在不完整、损坏或无法使用图的场景中应用图卷积网络，并通过实验证明，该方法的性能显著优于相关方法。

Mar, 2019