本研究提出一种基于神经常微分方程的多关系图卷积网络连续模型,通过图转换层捕获动态图的转换,实现对时间和结构信息进行连续时间动态嵌入,并在五个基准数据集上进行了大量实验证明,该模型在未来链接预测任务中具有卓越的性能。
Jan, 2021
本文提出了一种基于张量的常微分方程网络模型来对交通流进行空时预测,并引入了语义邻接矩阵和时态扩张卷积结构以应对传统模型的表达能力不足和建模不准确的问题。在多个真实数据集上的实验结果表明,该模型取得了领先于现有基准的更好的预测结果。
Jun, 2021
本文提出了一种名为 ODE-RNNs 的模型,可以对非匀齐时间间隔的时间序列进行建模,并通过实验表明,这种基于 ODE 的模型在处理不规则抽样数据时比基于 RNN 的模型表现更优。
Jul, 2019
本文提出了一种使用动态图神经普通微分方程(MTGODE)来预测多元时间序列的连续模型,旨在解决离散神经网络在捕捉稳定和精确的时空动态时所遇到的困难。我们的实验证明了该方法从多种角度在五个时间序列基准数据集上的超越性。
Feb, 2022
本文提出了一种新颖的基于图的多 - ODE 神经网络(GRAM-ODE)架构,通过捕捉复杂的局部和全局动态时空依赖关系的不同视图来学习更好的表示,并在其中间层添加了共享权重和发散性约束等技术以进一步改善面向预测任务的通信。在六个真实数据集上进行的广泛实验表明,GRAM-ODE 相比最先进的基线方法具有明显的优越性,并且不同组件对整体性能的贡献。
May, 2023
扩散基于生成模型使用随机微分方程和其等效的常微分方程在复杂数据分布与可追踪的先验分布之间建立平滑连接。本文中,我们发现扩散模型的基于常微分方程的采样过程中存在着一些有趣的轨迹特性。我们表征了一个隐式去噪轨迹,并讨论了其在形成具有强形状规律性的耦合采样轨迹中的重要作用,无论生成的内容是什么。我们还描述了一种基于动态规划的方案,使得采样的时间安排更好地适应底层轨迹结构。这种简单的策略对于任何给定的基于常微分方程的数值求解器只需要最小的修改,并且在计算成本几乎可忽略的情况下,能够在图像生成中提供卓越的性能,特别是在 5 到 10 个函数评估中。
May, 2024
通过学习多智能体系统动力学,我们提出了 GG-ODE(广义图形常微分方程)机器学习框架,使用神经常微分方程(ODE)通过图神经网络(GNN)捕捉智能体之间的连续交互,并假设不同环境下的动力学都受到相同物理定律的支配。通过实验证明,我们的模型可以准确预测系统动力学,尤其在长期范围内,并能够很好地推广到观测数据稀缺的新系统。
Jul, 2023
本文提出一种新的正则化技术:在训练过程中随机抽样 ODE 的结束时间,实验证明该技术能够在多个任务中显著减少训练时间并提高性能
Jun, 2020
本文提出了一种名为 TDE-GNN 的模型,它可以捕捉超过典型的一阶或二阶方法的各种时间动力学,并提供了现有时间模型难以处理的用例。通过在几个图形基准上学习时间依赖性,我们证明了使用我们的方法学习时间依赖性而不是使用预定义时间动态的好处。
Jan, 2024
本文提出一种基于 GNN 和 ODE 的交通预测模型(ASTGODE),在真实数据上表现良好,具有可解释性,并实现了最高的预测准确度。