Feb, 2021

评估引理中点积分器在黎曼流形哈密尔顿蒙特卡罗中的应用

PDF
TL;DR本文比较了广义 leapfrog integrator 和 implicit midpoint integrator 在 Hamiltonian Monte Carlo 中的优缺点和理论性质，并通过实验证明 implicit midpoint integrator 不仅能更好地保持能量和体积守恒，而且采样效果更准确。
发现论文，激发创造
  • 引入一种显式辛积分方案用于黎曼流形哈密顿蒙特卡罗算法

    介绍了最近为解决具有非可分离哈密顿量的物理动机系统导出的辛积分方案，并展示了它与 Riemann 流形哈密顿蒙特卡罗 (RMHMC) 的相关性，并提供了目前使用的广义跳跃辛积分器的替代方案，通过这种方法，我们能够减少每个跳跃步的高阶导数计算的数量。探讨了该积分器的影响，并展示了其在减少 RMHMC 的计算负担方面的效果。我们的代码提供在一个新的开源 Python 包 hamiltorch 中。

    Oct, 2019

  • 黎曼流形哈密顿蒙特卡罗

    研究了一种基于 Riemann 流形的 Hamiltonian Monte Carlo 采样算法，通过自适应方法规避了调整提议密度的需求，使得即使在高维状态空间建模中，也能更加高效地采样，该方法在众多实证分析中表现出较大的优越性，Matlab 代码在 http://www.dcs.gla.ac.uk/inference/rmhmc 可复现。

    Jul, 2009

  • 几何积分和哈密尔顿蒙特卡罗法

    该论文详细调查了数值积分与哈密顿（或混合）蒙特卡罗方法（HMC）之间的关系，并讨论了在提高计算效率和保持几何属性之间的折衷。该论文还对 HMC 保持目标分布维度的行为进行了探讨。

    Nov, 2017

  • 基于熵的自适应 Hamiltonian Monte Carlo

    本文提出了一种基于梯度的算法，允许通过鼓励 Leapfrog 积分器具有高接受率的方式来适应质量矩阵，最大化建议熵的近似值，实验证明该自适应方法可以通过调整质量矩阵来提高 HMC 的性能。

    Oct, 2021

  • Riemann 流形哈密尔顿蒙特卡罗的通用度量

    本文提出了一个新的度量来改进 Riemannian Manifold Hamiltonian Monte Carlo (RMHMC) 在分析上具有困难的模型应用的限制，验证了该度量在一种模拟许多分层和潜在模型的分布上取得的成功。

    Dec, 2012

  • 多步梯度法对 Metropolized Hamiltonian Monte Carlo 的快速混合优势

    本文研究 Hamiltonian Monte Carlo 算法及其变种 Metropolized HMC 在连续空间中从光滑概率密度函数中提取样本的能力，并提供了关于混合时间的理论证明和分析。

    May, 2019

  • 交替方向 SGHMC 算法的收敛性分析

    我们研究了具有跳跃点积分的 Hamiltonian Monte Carlo 算法在目标分布的随机梯度神谕上的收敛速率。我们的方法通过 Alternating Directions 的新颖步骤，扩展了标准 HMC 算法的使用范围，使其能够使用一般辅助分布。在此基础上，我们基于驱动算法的底层马尔可夫链的狄利克雷形式的研究进行收敛分析。为此，我们对具有一般形式的动能和势能函数的 Hamilton 运动的 leapfrog 积分器的误差进行了详细分析。我们表征了收敛速率对问题维度、目标和辅助分布的函数特性以及神谕的质量等关键参数的明确依赖关系。

    May, 2024

  • 几何调和哈密尔顿蒙特卡罗

    本文提出了一种新的度量学习方法（几何缓和哈密顿蒙特卡罗法），以改善 Hamiltonian Monte Carlo 在多模态目标分布中的性能，并通过仿真数据表明，该方法可以显著提高有效样本量。

    Apr, 2016

  • 为哈密顿蒙特卡罗优化积分器步长

    该论文提出了一个基于 Hamiltonian Monte Carlo 的优化准则，旨在调整算法的关键性步长值，并通过诊断监测来确保其有效性，从而使接受概率调整到 0.6≤a≤0.9 之间。

    Nov, 2014

  • 混合蒙特卡罗算法的最优调节

    研究了高维度混合蒙特卡洛算法中的哈密顿动力学、接受概率、状态空间和维度，表明为了得到接受概率为 O (1) 的最优性能，需要对步长进行适当缩放，并且该算法需要使用 O (d^(1/4)) 步来遍历状态空间。

    Jan, 2010