Aug, 2018

随机哈密顿蒙特卡洛作为弹性粒子采样器的缩放极限和无维收敛速率

PDF
TL;DR本文提出基于非可逆分段确定性马尔可夫过程的 Bouncy Particle Sampler 算法，通过在均匀和不均匀 Poisson 过程到达时弹跳并随机扰动速度，使粒子探测兴趣状态空间。经过充分的正则性条件分析，本文证明了该算法的一部分和其相应的速度在空间维度趋于无穷时弱收敛于随机哈密顿蒙特卡罗 (RHMC) 算法。通过耦合思想和 Hypocoercivity 技术，我们还建立了 RHMC 算法在具有有界 Hessian 的强对数凹目标上的无维收敛速率。
markov chain monte carlononreversible piecewise deterministic markov processrandomized hamiltonian monte carlolog-concave targetshypocoercivity techniques
发现论文，激发创造
  • 弹性粒子采样器：一种非可逆无拒绝的马尔可夫链蒙特卡罗方法

    本文介绍了利用连续时间马尔可夫过程探索目标分布的一种替代方法，该方法可以提供无拒绝的 MCMC 抽样方案，并且在采样混合离散 - 连续分布和被限制在平滑连通域上的分布时很有效。

    Oct, 2015

  • 分段确定性采样算法的高维缩放极限

    本文研究了具有重要作用的 Markov Chain Monte Carlo 算法中的，两个基本重要的例子 - Bouncy Particle Sampler (BPS) 和 Zig-Zag Process (ZZ) 的分别缩放极限。在高维情况下，我们比较了这两个算法的性能，发现 BPS 需要 $O（d ^ 2）$ 的计算代价，而 ZZ 只需要 $O（d）$。最后，我们提供了一个 BPS 刷新频率的选择依据。

    Jul, 2018

  • 分段确定性马尔可夫过程蒙特卡罗的次弱收敛性

    本文研究基于分段确定性马尔科夫过程的随机哈密顿蒙特卡洛、Zig-Zag 过程和 Bouncy Particle 采样等一系列过程的 L2 指数收敛性和低效性，证明这些算法在高维问题中具有较好的可行性。

    Aug, 2018

  • 混合蒙特卡罗算法的最优调节

    研究了高维度混合蒙特卡洛算法中的哈密顿动力学、接受概率、状态空间和维度，表明为了得到接受概率为 O (1) 的最优性能，需要对步长进行适当缩放，并且该算法需要使用 O (d^(1/4)) 步来遍历状态空间。

    Jan, 2010

  • 随机哈密顿蒙特卡罗

    本文介绍和分析了一种随机的 Hamiltonian Monte Carlo 方法 (RHMC) 以解决在 HMC 中调整哈密顿流的时间时，通常难以解决计算成本和采样质量之间的权衡问题；证明了 RHMC 是几何收敛的，并且通过多维高斯分布的上下文证明了 RHMC 的采样效率相对于恒定时间 HMC 是规则的。

    Nov, 2015

  • Hamiltonian Monte Carlo 方法采样简介

    介绍了哈密尔顿蒙特卡罗方法 (HMC)—— 基于哈密尔顿动力学的一种采样算法，用于从 Gibbs 密度中采样。重点在于 “理想化” 情况，其中能够精确计算连续轨迹，表明理想化 HMC 能保持 π 并在 f 为强凸和光滑时收敛。

    Aug, 2021

  • 随机梯度哈密尔顿蒙特卡罗

    研究了随机梯度 HMC，提出了一种使用带有摩擦项的二阶 Langevin 动力学的变体，以消除噪声梯度的影响，并使用该方法在神经网络和在线贝叶斯矩阵分解任务中验证了其有效性。

    Feb, 2014

  • 黎曼哈密顿蒙特卡罗的收敛速率和更快的多面体体积计算

    Riemannian Hamiltonian Monte Carlo 在流形上的收敛性以及在流形上采样问题和计算体积问题中的应用。

    Oct, 2017

  • 黎曼流形哈密顿蒙特卡罗

    研究了一种基于 Riemann 流形的 Hamiltonian Monte Carlo 采样算法，通过自适应方法规避了调整提议密度的需求，使得即使在高维状态空间建模中，也能更加高效地采样，该方法在众多实证分析中表现出较大的优越性，Matlab 代码在 http://www.dcs.gla.ac.uk/inference/rmhmc 可复现。

    Jul, 2009

  • 具有非牛顿动量的哈密顿动力学用于快速采样

    提出了一种基于 Hamiltonian 动力学的新型采样方法，这种方法通过非牛顿动量在超过状态空间中的确定性动力学下，从指定的能量函数中精确地采样出目标分布，比传统的 MCMC 方法收敛更快且无需随机步骤，并且可以用现有的 ODE 解算器求解。

    Nov, 2021