本文介绍了一种利用深度神经网络和近似贝叶斯推理相结合的广义深度生成模型，并引入了用于表示近似后验分布的识别模型，并利用随机反向传播来开发算法，实现生成和识别模型参数的联合优化，最终将模型应用于实际数据集，生成更真实的分布、准确地恢复缺失数据，并在高维数据的可视化上发挥了重要作用。

Jan, 2014

本文介绍和研究了一类概率生成模型，其中潜在对象是有限时间间隔上的有限维扩散过程，观察变量是在扩散的终端点条件下绘制的。 通过随机控制的视角，我们为这种生成模型的采样和变分推断提供了统一的观点，并量化了基于扩散的生成模型的表现力。我们最后提出并分析了一个无偏模拟的方案，并提供了结果估计值的方差上限。这个方案可以实现为深度生成模型并具有随机层数。

Mar, 2019

本文从分布的角度出发，研究了神经网络的深度问题。通过引入随机微分方程的方法，解决了深度叠加会引起的输入依赖性和功能约束等问题。

May, 2019

本文对几个图像分类任务进行了随机正则化神经 ODE 的实证研究，探讨了数据增强对其性能的影响，展示了神经 SDE 相对于其确定性版本的优势，但进一步的研究表明，数据增强消除了随机正则化的影响，使得神经ODE和神经SDE的性能差异微不足道。

Feb, 2020

本文介绍了在连续深度贝叶斯神经网络中进行可扩展的近似推断的方法，借助随机微分方程给出了隐藏单元，并使用基于梯度的随机变分推断和新的梯度估计器，这种方法使连续深度贝叶斯神经网络具有和离散深度替代方法同样的竞争力，并继承了神经ODE的内存高效训练和可调节精度。

Feb, 2021

本文提出了一种基于连续指数族描述的高斯变分过程的参数化方法，利用凸优化算法来解决具有非线性扩散过程先验的潜在过程的生成模型下的概率推断和学习问题。

Jun, 2023

研究在一个固定的同质化潜在空间中的矩阵李群诱导的随机微分方程类型中的变分贝叶斯推断问题，并以具有竞争力的或甚至是最先进的性能完成各种时间序列插值和分类基准测试。

Jun, 2023

我们提出了一种新颖的模型，即图神经随机微分方程（Graph Neural SDEs）。此技术通过使用布朗运动将随机性嵌入数据表示，提升了图神经常微分方程（Graph Neural ODEs），允许评估预测的不确定性，尤其在置信度预测方面超过了常规模型如图卷积网络和图神经常微分方程，使其在处理静态和时空上下文中的超出分布检测方面更加优越。

Aug, 2023

在这篇论文中，我们提出了一种用于推断由Markov-近似分数布朗运动（fBM）驱动的（神经）随机微分方程（SDEs）的新颖变分框架。我们结合了SDEs和变分方法的强大推断能力，通过随机梯度下降学习代表性函数分布。此外，我们还提出了一种使用神经网络学习变分后验中的漂移、扩散和控制项的方法，从而实现了神经-SDEs的变分训练。我们还优化了Hurst指数，控制分数噪声的性质。最后，我们提出了一种用于变分潜在视频预测的新型架构。

Oct, 2023

本研究针对时间序列数据中的变换点建模问题，提出了一种基于变分自编码器框架的神经随机微分方程模型及其训练程序。与现有算法不同，我们的方法仅需初始状态的高斯先验，而无需对整个潜在随机过程使用维纳过程先验。实证评估表明，该模型能够有效地模拟经典的参数随机微分方程及具有分布转变的真实数据集。

Nov, 2024