如何从三分钟数据中学习和泛化：物理约束和不确定性感知的神经随机微分方程

Jun, 2023

如何从三分钟数据中学习和泛化：物理约束和不确定性感知的神经随机微分方程

How to Learn and Generalize From Three Minutes of Data: Physics-Constrained and Uncertainty-Aware Neural Stochastic Differential Equations

PDF

Franck Djeumou, Cyrus Neary, Ufuk Topcu

TL;DR本文提出了一种使用神经随机微分方程学习控制动力学模型的框架和算法，能够构建模型预测控制算法以及模型基的增强学习领域中的仿真器，在模拟机器人系统中得到良好的应用。

Abstract

We present a framework and algorithms to learn controlled dynamics models using neural stochastic differential equations (SDEs) -- SDEs whose drift and diffusion terms are both parametrized by neural networks. We

neural stochastic differential equations controlled dynamics models model predictive control algorithms model-based reinforcement learning simulated robotic systems

发现论文，激发创造

学习约束动力学的稳定神经微分方程

本文提出了一种基于稳定化术语的神经微分方程方法：稳定化神经微分方程，用于实现关于神经微分方程的约束条件，提出的方法简单易行，适用于常见的神经微分方程模型，并能够超越现有方法的应用范围。

Jun, 2023

神经随机微分方程作为无限维生成对抗网络

本文介绍了一种将传统经典方法与神经随机微分方程（SDEs）相结合的方法，作为连续生成时间序列模型，无需预设统计或密度功能即可适应任意漂移和扩散，其输入噪声为布朗运动，输出样本是由数值求解器产生的，可用于机器学习中的时间序列建模。

Feb, 2021

分析非规则时间序列数据的稳定神经随机微分方程

在处理真实世界的不规则时间序列数据中，由于不连续的采样间隔和缺失值，神经随机微分方程（Neural SDEs）的良好性能依赖于漂移和扩散函数的巧妙选择，本研究通过提出三个稳定的 Neural SDE 类别： Langevin 型 SDE、线性噪声 SDE 和几何 SDE，并通过广泛的实验验证了这些方法在分布转移和不同缺失率下的鲁棒性，展示了该方法在处理真实世界不规则时间序列数据中的有效性。

Feb, 2024

基于神经随机微分方程的稳健定价和对冲

本文提出了一种结合神经网络和基于随机微分方程的经典风险模型的模型 —— 神经 SDE 模型，该模型可以根据市场数据进行一致性校准，并用于模拟市场场景以评估风险和对冲策略。

Jul, 2020

SDE-Net：为深度神经网络提供不确定性估计

我们提出了一种基于随机动态系统视角的量化深度神经网络不确定性的新方法，即神经随机微分方程模型 (SDE-Net)，并证明了其存在唯一解的性质，实验证明该模型在不确定性占据重要角色的一系列任务中优于现有的不确定性估计方法。

Aug, 2020

图神经随机微分方程

我们提出了一种新颖的模型，即图神经随机微分方程（Graph Neural SDEs）。此技术通过使用布朗运动将随机性嵌入数据表示，提升了图神经常微分方程（Graph Neural ODEs），允许评估预测的不确定性，尤其在置信度预测方面超过了常规模型如图卷积网络和图神经常微分方程，使其在处理静态和时空上下文中的超出分布检测方面更加优越。

Aug, 2023

神经随机微分方程：用随机噪声稳定神经常微分方程网络

本研究介绍了一种新型连续神经网络框架 Neural SDE，该框架自然地融合了基于随机噪声注入的各种常用正则化机制，可用于输入干扰和非对抗性扰动的鲁棒建模，并可实现更好的泛化性能和对抗性强化训练。

Jun, 2019

神经理想大涡模拟：用神经随机微分方程建模湍流

本文提出了一种基于数据打造的学习框架，将理想大涡模拟和神经随机微分方程相结合，应用在一种具有挑战性的混沌动力学系统 —— 雷诺数为 20000 的 Kolmogorov 流上，与其他方法相比，我们的 niLES 方法可以无缝处理非均匀几何结构，并可以处理更精确的统计数据和增强稳定性，特别是在长时间内的结果上.

Jun, 2023

通过神经随机微分方程提高跨域轨迹预测的可迁移性

基于连续和随机表示的神经随机微分方程，提出了一个解决多智能体轨迹预测中数据采集策略差异的方法，并通过 nuScenes、Argoverse、Lyft、INTERACTION 和 Waymo Open Motion Dataset (WOMD) 等基准数据集验证了方法的有效性和广泛适用性。

Dec, 2023

具有变点的神经随机微分方程：一种生成对抗方法

提出一种基于神经随机微分方程的时间序列变点检测算法，该算法使用生成对抗网络框架下的神经随机微分方程模型，通过 GAN 鉴别器的输出在前向传递中检测变点，并通过交替更新来学习未知的变点和不同变点对应的神经随机微分方程模型的参数。结果表明，该方法在合成和实际数据集上的性能比经典变点检测基准、标准 GAN-based 神经随机微分方程模型和其他深度生成模型更好。

Dec, 2023