基于动态系统的基础推理模型

Feb, 2024

Foundational Inference Models for Dynamical Systems

Patrick Seifner, Kostadin Cvejoski, Ramses J. Sanchez

TL;DR利用神经映射和基础推理模型，从噪声数据中无需微调即可零样本推理出常微分方程。

Abstract

ordinary differential equations (ODEs) underlie dynamical systems which serve as models for a vast number of natural and social phenomena. Yet inferring the ODE that best describes a set of noisy observations on one such phenomenon can be remarkably challenging, and the models availabl

ordinary differential equations supervised learning framework zero-shot inference neural maps foundational inference models

发现论文，激发创造

神经常微分方程中的不确定性和结构

本研究使用贝叶斯深度学习技术将轻量级机器学习方法应用于神经常微分方程以获得结构化和有意义的不确定性量化，研究了机械知识和不确定性量化在两种神经常微分方程框架下的相互作用 - 辛神经常微分方程和神经常微分方程物理模型的补充，证明了方法在低维 ODE 问题和高维偏微分方程上的有效性。

May, 2023

从部分观测中学习动态系统

本文研究使用数据驱动框架和神经网络来预测复杂的非线性时空过程，并表现出显著的改进。

Feb, 2019

神经常微分方程用于干预建模

该论文提出了一种名为 IMODE 的新型神经 ODE 方法，该方法可以有效地处理具有干预效应的实际系统动态，并通过合成和真实时间序列数据集的实验结果展示 IMODE 相对于现有方法的优越性。

Oct, 2020

学习动力系统中未观测状态的控制方程

采用混合神经 ODE 结构结合符号回归来学习部分观测动力系统的控制方程，通过两个案例研究验证该方法成功地学习了这些系统中未观测状态的真实控制方程，并对测量噪声具有鲁棒性。

Apr, 2024

神经 ODE 中的预测之外：鉴别和干预

采用简单的正则化方案和柔性神经 ODE，我们可以从时间序列数据中强大地恢复动态和因果结构，并对变量或系统自身进行准确的预测。

Jun, 2021

使用高斯过程学习未知的常微分方程模型

研究提出了一种基于高斯过程矢量场的非参数 ODE 建模方法，可以不需要先验知识学习任意连续时间系统的基本动力学，并利用稀疏数据推断系统的未来动态和进行模拟。

Mar, 2018

通过神经微分方程进行分布学习：一种非参数统计的观点

用普通微分方程（ODE）模型通过似然最大化进行训练的分布学习的非参数统计收敛分析是首次建立的，将速度场类和目标密度的相关收敛率以及对神经网络的影响纳入考虑。

Sep, 2023

记忆神经微分方程及正交多项式投影

本研究提出了 PolyODE，一种基于正交多项式投影的神经常微分方程模型，用于学习动态系统，以实现长期记忆和整体表示，优于先前的模型在数据重建和下游预测任务中的性能。

Mar, 2023

基于 ODE 的无模型循环强化学习在 POMDP 中的应用

通过结合神经常微分方程和无模型强化学习，我们提出了一种新颖的基于 ODE 的循环模型用于解决部分可观察的马尔可夫决策过程，通过模型推断从历史过渡中提取不可观测的动态相关信息，并通过多个实验验证了方法的有效性和鲁棒性，尤其在处理不规则采样的时间序列方面。

Sep, 2023

用 Transformer 预测常微分方程

我们使用基于 Transformer 的序列到序列模型，从单个解轨迹的不规则采样和嘈杂观测数据中恢复标量常微分方程（ODE）的符号形式。通过广泛的实证评估，我们证明我们的模型在各种环境下表现出更好或与现有方法相当的精确恢复能力。此外，我们的方法具有高效的可扩展性：在一次对大量 ODE 进行预先训练后，我们可以在模型的几次正向传递中推断出新观测解的控制规律。

Jul, 2023