Jan, 2024

关于微分方程启发的图神经网络的时域

PDF
TL;DR本文提出了一种名为 TDE-GNN 的模型，它可以捕捉超过典型的一阶或二阶方法的各种时间动力学，并提供了现有时间模型难以处理的用例。通过在几个图形基准上学习时间依赖性，我们证明了使用我们的方法学习时间依赖性而不是使用预定义时间动态的好处。
graph neural networks (gnns)differential equation-inspired graph neural networks (de-gnns)temporal dependenciestde-gnngraph benchmarks
发现论文，激发创造
  • 图神经常微分方程

    本文介绍了连续深度图神经网络 (GNN) 的框架，将图神经常微分方程 (GDEs) 形式化为 GNN 的对应物，其输入输出关系由一系列 GNN 层的连续融合离散拓扑结构和微分方程来决定，证明了其兼容各种静态和自回归 GNN 模型。结果表明 GDEs 在静态设置中通过在前向传递中将数值方法纳入其中提供了计算优势，在动态设置中，通过利用潜在动态的几何结构性能得到了提高。

    Nov, 2019

  • 基于时间图的动态图深度学习

    本文提出了一种称为 TGN 的新型深度学习框架，可以有效地在动态图形学中学习演化特征或连接。

    Jun, 2020

  • 使用神经控制微分方程学习动态图嵌入

    研究动态图的表示学习，提出了 Graph Neural Controlled Differential Equation (GN-CDE) 模型，通过深度神经网络参量化向量场和交互导数，对节点嵌入轨迹的动态演化进行建模，实现了在动态演化的图上表达动态的能力。

    Feb, 2023

  • 图神经反应扩散模型

    我们提出了一种基于神经反应扩散系统的新型图神经网络（RDGNN），它能够对各种数据类型进行建模，从同质性到异质性，以及时空数据集，并且在理论性能和实际表现上优于现有的方法。

    Jun, 2024

  • 基于图神经网络控制微分方程的交通预测

    本文提出了一种基于神经网络控制微分方程的时空图神经控制微分方程（STG-NCDE）方法，将 NCDA 概念应用于时空序列数据的处理中，实验表明该方法在交通预测中表现良好且优于其他 20 种基准模型。

    Dec, 2021

  • 交通预测的图神经粗糙微分方程

    本研究介绍了一种名为 Spatio-Temporal Graph Neural Rough Differential Equation (STG-NRDE) 的方法，该方法将神经网络粗糙微分方程（NRDE）和图卷积网络结合起来，通过时间和空间数据进行交互，以预测交通流量，并在 6 个基准数据集和 21 个基线模型中实现了最佳准确性。

    Mar, 2023

  • GrADE: 基于图形的数据驱动时变非线性偏微分方程求解器

    本论文中，我们提出了一个名为 “GrADE” 的新颖框架，以解决非线性偏微分方程的时间依赖性问题，该框架包括 FNN（fully connected neural network）和 Graph Neural Network 以及最近开发的神经 ODE 框架，并使用注意机制来增强其性能。我们将更多的重量分配给重要的输入特征。同时，该框架还使用了 O (1) 常数内存的神经 ODE 框架，提高了速度。我们还提出了深度精炼技术，以更快、更准确地训练该框架，仿真结果表明该框架在解决 PDE 建模的问题上表现卓越。

    Aug, 2021

  • 将领域微分方程纳入图卷积网络以降低泛化差异

    将域差分方程纳入图卷积网络（GCN）中可以提高空时预测的准确性和鲁棒性，我们提出了 Reaction-Diffusion Graph Convolutional Network（RDGCN）和 Susceptible-Infectious-Recovered Graph Convolutional Network（SIRGCN），它们基于可靠且可解释的域差分方程，能够适应不同的测试数据，并且相比于现有的深度学习方法具有更强的鲁棒性。

    Apr, 2024

  • 基于神经 ODE 的时态知识图预测

    本研究提出一种基于神经常微分方程的多关系图卷积网络连续模型，通过图转换层捕获动态图的转换，实现对时间和结构信息进行连续时间动态嵌入，并在五个基准数据集上进行了大量实验证明，该模型在未来链接预测任务中具有卓越的性能。

    Jan, 2021

  • 图神经随机微分方程

    我们提出了一种新颖的模型，即图神经随机微分方程（Graph Neural SDEs）。此技术通过使用布朗运动将随机性嵌入数据表示，提升了图神经常微分方程（Graph Neural ODEs），允许评估预测的不确定性，尤其在置信度预测方面超过了常规模型如图卷积网络和图神经常微分方程，使其在处理静态和时空上下文中的超出分布检测方面更加优越。

    Aug, 2023