均质空间上的潜隐式微分方程
本文研究了深度潜变高斯模型中的神经 SDEs,并采用随机流理论基于维纳空间开发出一种变分推理框架,利用黑盒 SDE 求解器和自动微分进行端到端推理。
May, 2019
本文介绍了一种将传统经典方法与神经随机微分方程(SDEs)相结合的方法,作为连续生成时间序列模型,无需预设统计或密度功能即可适应任意漂移和扩散,其输入噪声为布朗运动,输出样本是由数值求解器产生的,可用于机器学习中的时间序列建模。
Feb, 2021
本文介绍了一种使用欧拉 - 马鲁雅马方法对扩散过程离散化,并应用变分推断方法共同学习参数和扩散路径的方法。这种方法使用平均场变分近似参数后验分布,并引入递归神经网络来近似参数条件下扩散路径的后验分布,所得结果可用于具有轻微调整需求的任何 SDE 系统,并在短短几个小时内产生准确的参数估计。
Feb, 2018
本文提出了一种新的框架,该框架结合了随机微积分,变分 Bayes 理论和稀疏学习等概念,提出了扩展的 Kramers-Moyal 展开来发现随机偏微分方程 (SPEDs) ,并且用 Spike-and-Slab 先验概率和稀疏学习技术来有效准确地发现潜在的 SPDEs,并且利用三个经典的 SPDEs(随机热方程,随机 Allen-Cahn 方程和随机 Nagumo 方程)进行了实证应用,结果表明,本文提出的方法可以用有限的数据准确地识别出潜在的 SPDEs。
Jun, 2023
通过将随机偏微分方程与高斯马尔可夫随机场相结合,以及利用深度学习方法,本文提出了一种新的方法来解决大规模地理物理数据的时空插值问题,并提供了解释性和不确定性量化的随机框架。
Feb, 2024
在这篇论文中,我们提出了一种用于推断由 Markov - 近似分数布朗运动(fBM)驱动的(神经)随机微分方程(SDEs)的新颖变分框架。我们结合了 SDEs 和变分方法的强大推断能力,通过随机梯度下降学习代表性函数分布。此外,我们还提出了一种使用神经网络学习变分后验中的漂移、扩散和控制项的方法,从而实现了神经 - SDEs 的变分训练。我们还优化了 Hurst 指数,控制分数噪声的性质。最后,我们提出了一种用于变分潜在视频预测的新型架构。
Oct, 2023
该研究探讨了利用 Monte Carlo 方法和深度学习解决高维偏微分方程(PDE)的有效算法,并提供了一些新方法,这些方法在利用梯度优化方法最小化相应损失时具有低差异性,并提高了所提到的现有深度学习方法的性能。
Jun, 2022
通过一种新的分摊策略以及线性 SDEs 下的期望重新参数化的方法,我们在训练时的模型评估次数减少了一个数量级,从而实现了类似于基于伴随灵敏度的方法的相似性能。
Dec, 2023
我们开发了一种新的因果推断方法,通过学习随机微分方程 (SDEs) 的稳定密度来模拟系统在干预下的行为,而不需要因果图的结构方程,并且无需考虑无环性的常见假设。我们表明,在若干情况下,这些稳定扩散模型对于变量上的未观测干预进行了推广,通常比传统方法更好。我们的推断方法基于一个新的理论结果,通过在再生核希尔伯特空间中表达扩散的生成器上的稳定条件。由此产生的核函数离稳定性的偏差 (KDS) 是一个独立感兴趣的目标函数。
Oct, 2023