本篇研究论文探讨了哈密尔顿蒙特卡罗方法产生的马尔可夫链何时何时不会是几何遗传的一般条件,并考虑了位置独立和位置依赖积分时间的实现。
Jan, 2016
该论文详细调查了数值积分与哈密顿(或混合)蒙特卡罗方法(HMC)之间的关系,并讨论了在提高计算效率和保持几何属性之间的折衷。该论文还对 HMC 保持目标分布维度的行为进行了探讨。
Nov, 2017
本文提出了一种新的度量学习方法(几何缓和哈密顿蒙特卡罗法),以改善 Hamiltonian Monte Carlo 在多模态目标分布中的性能,并通过仿真数据表明,该方法可以显著提高有效样本量。
Apr, 2016
本文介绍和分析了一种随机的 Hamiltonian Monte Carlo 方法 (RHMC) 以解决在 HMC 中调整哈密顿流的时间时,通常难以解决计算成本和采样质量之间的权衡问题;证明了 RHMC 是几何收敛的,并且通过多维高斯分布的上下文证明了 RHMC 的采样效率相对于恒定时间 HMC 是规则的。
Nov, 2015
本文研究马尔可夫链和 Harris 重现性的关系,探讨 Metropolis-within-Gibbs 和跨维度马尔可夫链是否满足 Harris 重现性,并提出有保证 Harris 重现性的正面结果以及未解决的问题。最后讨论这对 MCMC 算法的实际影响。
Feb, 2007
介绍了哈密尔顿蒙特卡罗方法 (HMC)—— 基于哈密尔顿动力学的一种采样算法,用于从 Gibbs 密度中采样。重点在于 “理想化” 情况,其中能够精确计算连续轨迹,表明理想化 HMC 能保持 π 并在 f 为强凸和光滑时收敛。
Aug, 2021
通过一种新的耦合方法,我们证明了 Hamiltonian Monte Carlo 算法的转换步对于经过精心设计的 Kantorovich(L1Wasserstein)距离是收缩的。 收敛速率的下界是明确的,全局凸性不是必需的,因此包括多模式目标分布。 收缩性的显式量化界限直接推出了近似到给定误差的稳态分布所需的步骤数。这些界限表明,如果调整 Hamiltonian 动力学的持续时间,则 HMC 可以克服扩散行为。
May, 2018
本文研究 Hamiltonian Monte Carlo 算法及其变种 Metropolized HMC 在连续空间中从光滑概率密度函数中提取样本的能力,并提供了关于混合时间的理论证明和分析。
May, 2019
研究了高维度混合蒙特卡洛算法中的哈密顿动力学、接受概率、状态空间和维度,表明为了得到接受概率为 O (1) 的最优性能,需要对步长进行适当缩放,并且该算法需要使用 O (d^(1/4)) 步来遍历状态空间。
Jan, 2010
提出了基于相对论动力学的哈密顿蒙特卡罗方法,通过引入粒子的最大速度解决哈密顿蒙特卡罗在大时间离散化和空间几何不匹配时的性能问题,并开发了基于此的相对论随机梯度下降算法,与深度学习中的优化方法如梯度截断、RMSprop、Adagrad 和 Adam 有趣的关系,实验表明这种算法比经典牛顿变体和 Adam 表现更好。
Sep, 2016