Oct, 2023

采样、优化和提升的广义伊藤链的伊藤扩散逼近

PDF
TL;DR这项工作考虑了一类非常普遍而广泛的 Markov 链，即类似于某些随机微分方程的 Euler-Maryama 离散化的 Ito 链。我们研究的链是一个统一的理论分析框架，与大多数相关论文中的正常和状态独立的噪声不同，它具有几乎任意的各向同性和状态相关的噪声。此外，我们的链的漂移和扩散系数可以是不精确的，以涵盖各种应用，如随机梯度 Langevin 动力学、采样、随机梯度下降或随机梯度提升。我们证明了 Ito 链和相应的随机微分方程之间 $W_2$ 距离的上界。这些结果改进或涵盖了大多数已知的估计。此外，对于某些特殊情况，我们的分析是首次的。
markov chainsito chainsstochastic differential equationw2-distancetheoretical analysis
发现论文，激发创造
  • 定向链随机微分方程

    基于 McKean-Vlasov 类型的无限维非线性随机微分方程，我们提出了一个扩散过程粒子系统，通过链式网络结构耦合。它具有 (i) 局部链交互和 (ii) 平均场交互。由于局部链交互，混沌的传播不一定成立。此外，我们展示了平均场作用的存在或不存在的二分法，并讨论了从单个组分过程的观察中检测其存在的问题。

    May, 2018

  • 使用扩散法测量样本质量

    本文发展了基于 Ito 扩散的新型特征算子，针对任何具有快速耦合 Ito 扩散的目标，开发了明确的多元 Stein 因子边界，并应用于多个实际应用中，从而通过质量度量来选择超参数，比较随机和确定性的积分规则，并量化近似 MCMC 中的偏差 - 方差权衡。

    Nov, 2016

  • 通过随机微分方程的解模拟 Itô 过程

    探讨多维 Itō过程的随机微分方程及其衍生证券的应用

    Oct, 2010

  • 高效采样随机微分方程的不变分布的弱生成采样器

    从 Fokker-Planck 方程中派生的转换映射，使用弱生成采样器（WGS）直接生成相互独立和同分布（iid）样本的框架，融合标准化流以表征不变分布并促进基础分布的样本生成。实验结果表明，我们的方法在低计算成本和探索多个亚稳态方面具有较好的能力。

    May, 2024

  • 定向链随机微分方程的光滑性

    研究延迟微分方程的平稳性，其中每个过程都受其无限定向链图中的邻域过程的影响，并介绍了延迟等结构，该结构中的辅助过程使传统的 Malliavin 导数方法不直接适用。

    Feb, 2022

  • 随机龙格 - 库塔加速 Langevin Monte Carlo 等算法

    本文研究了基于分 discretizing 类 - Wasserstein 倍数收缩的平滑随机微分取样算法，着重研究了用随机 Runge-Kutta 方法离散过度阻尼 Langevin 方程的取样算法，并表明其迭代次数可达到目标分布的 $2$-Wasserstein 距离，并将分析扩展到具有可能非凸势能的一般扩散过程。

    Jun, 2019

  • 马尔可夫链蒙特卡罗用于扩散精确推断

    本文介绍精确的马尔可夫链蒙特卡洛方法，可以应用于离散采样、直接和间接观察扩散过程。其中的方法可以模拟目前最普遍的精确模拟算法，并包括改进性能的方法。通过理论和实际对比，我们发现与当前最先进的方法相比，效果更好，而且一些指标有着有趣的联系。

    Feb, 2011

  • 马尔可夫链的 Chernoff-Hoeffding 界限：广义和简化

    该论文基于标准的 L_1 混合时间证明了一般性的非可逆有限状态马尔科夫链的 Chernoff-Hoeffding 边界。

    Jan, 2012

  • 连续时间随机过程的期望传播

    通过 Bayesian 框架和变分近似推断将离散时间观察和连续时间约束转化为在扩散过程的轨迹上的后验测量逆问题，同时使用化学朗之万方程将此逼近推广到广泛的离散状态马尔可夫跳跃过程中，取得了计算效率高和逆问题的较好逼近的实验结果。

    Dec, 2015

  • 改进欧拉方法用于随机微分方程的数值积分

    探索了一种新的、实用的随机微分方程 Runge-Kutta 数值方案，并证明了其具有强收敛性及一阶收敛性，该方法是一种好的入门级别的随机微分方程，特别是与 Higham 的介绍相结合。

    Oct, 2012