图耦合振荡器网络
连续脉冲图神经网络(COS-GNN)是一个统一框架,将脉冲神经网络与连续图神经网络相结合,利用高阶结构和脉冲表示进行连续传播,以增强信息保留并捕捉节点之间的长程依赖。实验结果表明,COS-GNN 在图学习任务中比竞争对手具有更好的效果。
Apr, 2024
我们提出了一种基于图神经常微分方程的协同过滤方法(GODE-CF),该方法通过利用一个或两个图卷积网络层捕获的信息来估计最终嵌入,并证明了该模型在多个数据集上优于竞争基线和其他最新的协同过滤方法。值得注意的是,我们的 GODE-CF 模型相对于传统的图卷积网络模型具有简单、高效和快速训练时间等多个优点,使其成为实际场景中的理想选择。
Nov, 2023
该文研究了图神经网络中过度平滑问题,并针对无向图将其概念推广至有向图,通过引入指向对称规范化拉普拉斯算子并提出分数图拉普拉斯神经 ODE 框架,实现了在节点间传播信息的同时缓解了过度平滑问题,证明了该方法的有效性并在合成和真实世界的有向无向图上进行了广泛实验。
May, 2023
本文提出了一种新颖的基于图的多 - ODE 神经网络(GRAM-ODE)架构,通过捕捉复杂的局部和全局动态时空依赖关系的不同视图来学习更好的表示,并在其中间层添加了共享权重和发散性约束等技术以进一步改善面向预测任务的通信。在六个真实数据集上进行的广泛实验表明,GRAM-ODE 相比最先进的基线方法具有明显的优越性,并且不同组件对整体性能的贡献。
May, 2023
本文介绍了连续深度图神经网络 (GNN) 的框架,将图神经常微分方程 (GDEs) 形式化为 GNN 的对应物,其输入输出关系由一系列 GNN 层的连续融合离散拓扑结构和微分方程来决定,证明了其兼容各种静态和自回归 GNN 模型。结果表明 GDEs 在静态设置中通过在前向传递中将数值方法纳入其中提供了计算优势,在动态设置中,通过利用潜在动态的几何结构性能得到了提高。
Nov, 2019
耦合振子在任意图上本地驱动其相互同步的趋势,但通常会在整个图上表现出非线性行为。本文中,我们展示了这种耦合振子的非线性行为可以在某些潜在动态空间中被有效线性化。我们提出了基于监督矩阵分解的算法来学习这些潜在动态过滤器。我们的方法在同步预测任务中表现出竞争力,尽管其结构简单且可解释。
Nov, 2023
本文提出了一种新颖的基于学习的模拟模型 - GNSTODE,以特征化通过统一的端到端框架来描述耦合粒子系统中的空间和时间依赖关系。通过对真实世界中的粒子相互作用观察进行训练,GNSTODE 能够精确地模拟任何可能的粒子系统。评估结果表明,所提出的 GNSTODE 比最先进的基于学习的模拟方法产生更好的模拟结果,并且可以作为处理实际应用中物理模拟问题的有效解决方案。
May, 2023
通过学习多智能体系统动力学,我们提出了 GG-ODE(广义图形常微分方程)机器学习框架,使用神经常微分方程(ODE)通过图神经网络(GNN)捕捉智能体之间的连续交互,并假设不同环境下的动力学都受到相同物理定律的支配。通过实验证明,我们的模型可以准确预测系统动力学,尤其在长期范围内,并能够很好地推广到观测数据稀缺的新系统。
Jul, 2023
通过使用物理启发的神经图常微分方程算法(Physics-Inspired Neural Graph ODE),我们提出了一种更好地建模离散监督信号下潜在轨迹的方法,同时利用基于 GNN 的模型以插拔的方式对神经图常微分方程进行参数化,实验证明我们的模型在长期预测和演化误差方面相较于现有方法有数量级的提升。
Aug, 2023
我们提出了 Kuramoto Graph Neural Network (KuramotoGNN),一种新颖的连续深度图神经网络 (GNN),它采用 Kuramoto 模型来减轻过度平滑现象,在 GNN 中,随着层数的增加,节点特征变得无法区分。Kuramoto 模型捕捉了非线性耦合振荡器的同步行为。通过耦合振荡器的视角,我们首先展示了 Kuramoto 模型与基本 GNN 之间的联系,然后证明了 GNN 中的过度平滑现象可以解释为 Kuramoto 模型中的相位同步。KuramotoGNN 通过频率同步来替代相位同步,防止节点特征收敛到彼此,同时允许系统达到稳定的同步状态。我们在各种图深度学习基准任务上实验证明了 KuramotoGNN 相对于基准 GNN 和现有方法在减少过度平滑方面的优势。
Nov, 2023