Jan, 2010

混合蒙特卡罗算法的最优调节

PDF
TL;DR研究了高维度混合蒙特卡洛算法中的哈密顿动力学、接受概率、状态空间和维度，表明为了得到接受概率为 O (1) 的最优性能，需要对步长进行适当缩放，并且该算法需要使用 O (d^(1/4)) 步来遍历状态空间。
hybrid monte-carlo algorithmhamiltonian dynamicsacceptance probabilitystate spacedimension
发现论文，激发创造
  • 基于熵的自适应 Hamiltonian Monte Carlo

    本文提出了一种基于梯度的算法，允许通过鼓励 Leapfrog 积分器具有高接受率的方式来适应质量矩阵，最大化建议熵的近似值，实验证明该自适应方法可以通过调整质量矩阵来提高 HMC 的性能。

    Oct, 2021

  • 多层次汉密尔顿蒙特卡罗

    提出了一种新型的两阶段哈密顿蒙特卡罗算法，通过使用一个廉价的可微分代理模型计算接受率，在第二阶段使用高保真度（HF）数值求解器评估后验分布，以高效地逼近后验梯度并产生准确的后验样本，成功地解决了哈密顿蒙特卡罗算法在计算和统计效率方面的限制，并在计算后验统计量时保持或改进准确性。

    May, 2024

  • 多步梯度法对 Metropolized Hamiltonian Monte Carlo 的快速混合优势

    本文研究 Hamiltonian Monte Carlo 算法及其变种 Metropolized HMC 在连续空间中从光滑概率密度函数中提取样本的能力，并提供了关于混合时间的理论证明和分析。

    May, 2019

  • 二阶哈密顿蒙特卡洛维度紧致界

    本文研究哈密顿蒙特卡罗方法在采样强对数凹目标分布时的收敛速度，提出了一个比传统李普希茨海森常数条件更宽松的第三阶正则条件，并证明了二阶 “跳跃点” 算法的收敛速度为 $d^{1/4}$，并在合成数据的仿真实验中得到了验证。

    Feb, 2018

  • 随机哈密顿蒙特卡罗

    本文介绍和分析了一种随机的 Hamiltonian Monte Carlo 方法 (RHMC) 以解决在 HMC 中调整哈密顿流的时间时，通常难以解决计算成本和采样质量之间的权衡问题；证明了 RHMC 是几何收敛的，并且通过多维高斯分布的上下文证明了 RHMC 的采样效率相对于恒定时间 HMC 是规则的。

    Nov, 2015

  • 在强对数凹分布上快速混合的哈密尔顿蒙特卡罗算法

    本文研究了 Hamiltonian Monte Carlo 算法在强对数凹目标分布上的混合性能，并得出了基于维度的混合度量和用于从 π 中采样的 HMC 跳跃步的梯度评估相关定理。

    Aug, 2017

  • 随机梯度哈密尔顿蒙特卡罗

    研究了随机梯度 HMC，提出了一种使用带有摩擦项的二阶 Langevin 动力学的变体，以消除噪声梯度的影响，并使用该方法在神经网络和在线贝叶斯矩阵分解任务中验证了其有效性。

    Feb, 2014

  • 针对良好条件分布的 Metropolized 采样方法下限

    给出了使用两种蒙特卡罗采样方法（MALA 和 HMC）在良好条件的分布下性能的下界，并确定了每种方法的最短混合时间和松弛时间。该文还发现了跃点积分和 Chebyshev 多项式之间的新连接。

    Jun, 2021

  • 利用 Chebyshev 积分时间加速哈密顿蒙特卡罗

    本文提出了一种基于 Chebyshev 多项式根的变化积分时间的 HMC 加速采样方法，可以在更少的迭代次数内将理想 HMC 方法在 Wasserstein-2 距离上的误差降至小于给定的值，即提高了采样的效率。

    Jul, 2022

  • 使用哈密尔顿动力学的 MCMC

    本文介绍了 Hamiltonian Monte Carlo 算法的理论和实践方面，并提出了一些改进，包括使用状态窗口来决定接受或拒绝、使用快速逼近计算轨迹、在轨迹过程中进行调温处理以处理孤立模式和防止无用轨迹占用大量计算时间的快捷方法。

    Jun, 2012