随机微分方程弱后向误差分析
本文研究用隐式方法对过阻尼 Langevin 随机微分方程的数值逼近,结果表明,数值解的生成器与经修改的 Kolmogorov 方程的解基本一致,这意味着每个数值方案的度量都接近于通过渐近展开所得到的修改不变度量。此外,我们证明了隐式方案的动态,在忽略项的情况下,是指数混合的。
Oct, 2013
通过隐式方法对随机 Langevin 方程的数值逼近进行研究,显示了生成器与修正 Kolmogorov 方程的解重。此外,通过渐近展开得到每个数值方案的测度接近修正不变测度,并证明探讨的隐式方案动态指数混合。
Oct, 2013
本文介绍一种新的方法来扩展了扩散逼近的有效性,使得可以利用此方法对强凸目标函数的常步长随机梯度下降算法进行渐进行为的表征,从而使得扩散逼近的适用范围更广、更深入涵盖了数据科学中随机优化算法的应用。
Feb, 2019
探讨了随机微分方程的长时间行为的数值逼近方法,得到了时间平均估计器的误差估计,并利用其展示了数值方法的稳态行为趋近于随机微分方程的稳态行为,其误差分析基于底层随机微分方程的泊松方程,并且该方法的主要优点是其简单性和普适性。
Aug, 2009
我们研究了最小二乘问题的连续时间随机梯度下降(SGD)模型的动力学。我们通过分析随机微分方程 (SDE),在训练损失(有限样本)或总体损失(在线设置)的情况下建模 SGD 来追求 Li 等人 (2019) 的研究成果。该动力学的一个关键特征是无论样本大小如何,都存在与数据完美插值器。在这两种情况下,我们提供了收敛到(可能退化的)稳态分布的精确非渐近速率。此外,我们描述了渐近分布,给出了其均值、与之偏差的估计,并证明了与步长大小有关的重尾现象的出现。我们还呈现了支持我们发现的数值模拟结果。
Jul, 2024
探索了一种新的、实用的随机微分方程 Runge-Kutta 数值方案,并证明了其具有强收敛性及一阶收敛性,该方法是一种好的入门级别的随机微分方程,特别是与 Higham 的介绍相结合。
Oct, 2012
本文提出一种针对 Kolmogorov PDEs 的数值逼近方法,旨在克服高维情况下维数诅咒和变量精确性缺乏的问题,且适用于金融衍生品的定价模型。在研究的示例中包括热方程、Black-Scholes 模型、随机 Lorenz 方程和 Heston 模型,实现了高维情况下准确性和速度方面的有效逼近。
Jun, 2018
介绍了用于强迫和遍历随机微分方程(SDE)的新的显式稳定方案,可实现最优的平方稳定域大小,以及二阶收敛速度,用于采样一类遍历 SDE 的不变测度。
Aug, 2017
利用随机微分方程分析和比较最小化最大化优化器的 SDE 模型,揭示超参数、隐式正则化和隐含的曲率诱导噪声之间的相互作用,并以简化的设定推导出收敛条件和闭式解,进一步揭示不同优化器行为的见解。
Feb, 2024
本研究提出了两种完全概率欧拉方案,一种是显式的,一种是隐式的,用于模拟随机初始条件下具有超线性增长漂移的麦凯恩 - 弗拉索夫随机微分方程,并证明了在其后的粒子系统中两种方案都有强收敛性。经过数值测试发现,显式方案具有计算复杂度优势,但也存在 “粒子污染” 效应,需要更多的理论分析。
Aug, 2018