为哈密顿蒙特卡罗优化积分器步长
基于损失函数自适应地调整参数,通过梯度驱动学习计算积分步数的分布,加上随机性以实现平滑的损失函数曲面,将该方法应用于哈密顿蒙特卡罗算法,优化得到与自相关时间相对应的参数。
Sep, 2023
研究了高维度混合蒙特卡洛算法中的哈密顿动力学、接受概率、状态空间和维度,表明为了得到接受概率为 O (1) 的最优性能,需要对步长进行适当缩放,并且该算法需要使用 O (d^(1/4)) 步来遍历状态空间。
Jan, 2010
该论文详细调查了数值积分与哈密顿(或混合)蒙特卡罗方法(HMC)之间的关系,并讨论了在提高计算效率和保持几何属性之间的折衷。该论文还对 HMC 保持目标分布维度的行为进行了探讨。
Nov, 2017
本文提出了一种基于 Chebyshev 多项式根的变化积分时间的 HMC 加速采样方法,可以在更少的迭代次数内将理想 HMC 方法在 Wasserstein-2 距离上的误差降至小于给定的值,即提高了采样的效率。
Jul, 2022
通过研究拟合哈密顿蒙特卡罗采样器的可变积分时间和部分速度刷新之间的联系,我们发现在二次势上,相对于经典恒定积分时间、完全刷新的哈密顿蒙特卡罗法,这种优化方式可以通过 Wasserstein-2 距离以√κ 倍的效率改进。我们还探讨了在更高阶正则性条件下模拟哈密顿动力学的随机积分器的优势。
Sep, 2022
本文研究 Hamiltonian Monte Carlo 算法及其变种 Metropolized HMC 在连续空间中从光滑概率密度函数中提取样本的能力,并提供了关于混合时间的理论证明和分析。
May, 2019
本文提出了一种基于梯度的算法,允许通过鼓励 Leapfrog 积分器具有高接受率的方式来适应质量矩阵,最大化建议熵的近似值,实验证明该自适应方法可以通过调整质量矩阵来提高 HMC 的性能。
Oct, 2021
提出了一种新型的两阶段哈密顿蒙特卡罗算法,通过使用一个廉价的可微分代理模型计算接受率,在第二阶段使用高保真度(HF)数值求解器评估后验分布,以高效地逼近后验梯度并产生准确的后验样本,成功地解决了哈密顿蒙特卡罗算法在计算和统计效率方面的限制,并在计算后验统计量时保持或改进准确性。
May, 2024
本研究提出了一种使用 Hamiltonian Monte Carlo 算法中的 MCMC 步骤来改善后验分布逼近的方法,并通过实验结果证明了这种方法的理论优势和性能改进。
Sep, 2016
本文讨论了 Hamiltonian Monte Carlo 算法的不可约性和几何遍历性,考虑了较为宽松和严格的条件,得出了 HMC 采样器具有几何遍历性的可验证条件。
Apr, 2017