本文研究了 Hamiltonian Monte Carlo 算法在强对数凹目标分布上的混合性能,并得出了基于维度的混合度量和用于从 π 中采样的 HMC 跳跃步的梯度评估相关定理。
Aug, 2017
本文介绍和分析了一种随机的 Hamiltonian Monte Carlo 方法 (RHMC) 以解决在 HMC 中调整哈密顿流的时间时,通常难以解决计算成本和采样质量之间的权衡问题;证明了 RHMC 是几何收敛的,并且通过多维高斯分布的上下文证明了 RHMC 的采样效率相对于恒定时间 HMC 是规则的。
Nov, 2015
本文研究 Hamiltonian Monte Carlo 算法及其变种 Metropolized HMC 在连续空间中从光滑概率密度函数中提取样本的能力,并提供了关于混合时间的理论证明和分析。
May, 2019
本文提出了一种快速的随机 Hamilton Monte Carlo 方法,用于从一个光滑而强烈对数凹的分布中进行采样。通过梯度复杂度来衡量算法的性能,实验结果表明,该算法在采样效率上跑赢了现有的 HMC 和 Stochastic Gradient HMC 方法。
Feb, 2018
本文提出了一种基于 Chebyshev 多项式根的变化积分时间的 HMC 加速采样方法,可以在更少的迭代次数内将理想 HMC 方法在 Wasserstein-2 距离上的误差降至小于给定的值,即提高了采样的效率。
Jul, 2022
研究了高维度混合蒙特卡洛算法中的哈密顿动力学、接受概率、状态空间和维度,表明为了得到接受概率为 O (1) 的最优性能,需要对步长进行适当缩放,并且该算法需要使用 O (d^(1/4)) 步来遍历状态空间。
Jan, 2010
研究了如何从 1 条路径中估计任意遍历有限状态 Markov 链的混合时间,引入了假谱间隙的概念,并构建了全经验置信区间,将精度优化至多项式依赖的最小稳态概率和假谱间隙。
Feb, 2019
本研究提出了一种新颖的多层蒙特卡罗渐进优化方法,针对含有 Markov 链随机数据的优化问题,能够在不知道 Markov 链混合时间的情况下获得最佳渐进收敛速率,并适用于非凸优化求解及在时间差分 (TD) 学习中获取更好的混合时间依赖性。
Feb, 2022
给出了使用两种蒙特卡罗采样方法(MALA 和 HMC)在良好条件的分布下性能的下界,并确定了每种方法的最短混合时间和松弛时间。该文还发现了跃点积分和 Chebyshev 多项式之间的新连接。
Jun, 2021
本文研究哈密顿蒙特卡罗方法在采样强对数凹目标分布时的收敛速度,提出了一个比传统李普希茨海森常数条件更宽松的第三阶正则条件,并证明了二阶 “跳跃点” 算法的收敛速度为 $d^{1/4}$,并在合成数据的仿真实验中得到了验证。