约束目标分布的球形哈密尔顿蒙特卡罗

Sep, 2013

约束目标分布的球形哈密尔顿蒙特卡罗

Spherical Hamiltonian Monte Carlo for Constrained Target Distributions

Shiwei Lan, Bo Zhou, Babak Shahbaba

TL;DR该研究论文展示了一种新的用于处理约束目标分布的马尔可夫链蒙特卡罗 (MCMC) 方法，该方法通过映射参数限制域到单位球面完成对参数空间的增广，因此能够在处理约束的同时自由运动于球面上，并且实验证明此方法可以有效的提高计算效率。

Abstract

We propose a new markov chain monte carlo (MCMC) method for constrained target distributions. Our method first maps the $D$-dimensional constrained domain of parameters to the unit ball ${\bf B}_0^D(1)$. Then, it augments the resulting parameter space to the $D$-dimensional sphere, ${\

markov chain monte carlo constrained target distributions computational efficiency lagrangian dynamics geodesic flow

发现论文，激发创造

截断多元高斯分布的精确哈密尔顿蒙特卡罗

本研究提出了一种 Hamiltonian Monte Carlo 算法，能够从受限制的多元高斯分布中进行采样，该算法与 Gibbs 采样相比混合更快，更有效。此外，该算法还支持从具有分段二次 log 密度的分布进行采样，例如在 “Bayesian Lasso” 模型中。

Aug, 2012

基于 Monge 修补的拉格朗日流形蒙特卡罗

本文提出一种新型的利用 Monge patch 嵌入为高维欧几里得空间，并采用由直接几何推理确定的诱导度量的可替代性黎曼度量，该度量仅需要一阶梯度信息和快速的逆和行列式，从而将计算迭代的复杂度从三次多项式降低到二次多项式，使得 Lagrangian Monte Carlo 在该度量下能够高效地探索目标分布。

Feb, 2022

用于离散参数和不连续似然的不连续 Hamilton 蒙特卡罗

本文提出了一种扩展的 Hamiltonian Monte Carlo 方法，可有效探索具有不连续密度分布的目标分布，通过将概率质量函数嵌入到连续空间中，特别是能有效从序数参数中采样，我们通过不连续 Hamiltonian 动力学的理论进行了解释，并开发了相应的数值解算器。该求解器是第一种能够完全保持 Hamiltonian 的方法，我们应用了该算法到挑战性的后验推断问题中以证明其广泛适用性和竞争性能。

May, 2017

嵌入流形上的测地线蒙特卡罗

本文讨论了基于浸入流和哈密尔顿 - 雅可比表示描述的测地线流的概率密度函数流形的 Markov chain Monte Carlo 方法，并基于流形支撑下的测地线流开发了提案机制，文中用超球面和正交矩阵的 Stiefel 流形为例进行了说明。

Jan, 2013

切比雪夫粒子

Markov 链蒙特卡洛 (MCMC) 是推断隐藏马尔可夫模型的可行方法，但由于参数空间中蒙特卡洛采样器在不确定区域内随机采取小步骤，受维度诅咒的约束往往导致计算上的限制。我们首次将目标的后验分布视为样本在无限维欧几里得空间中的映射，其中嵌入了确定性子流形，并提出了一种通过最大化加权里捷极化量来离散化可矩阵流形的新准则。我们研究了 Chebyshev 粒子的特性，并将它们嵌入到连续的 MCMC 中，这是一种高接受率的新型采样器，只提出了少量评估。我们在合成数据的线性高斯状态空间模型和真实数据的非线性随机波动率模型的参数推断实验中取得了高性能。

Sep, 2023

二阶哈密顿蒙特卡洛维度紧致界

本文研究哈密顿蒙特卡罗方法在采样强对数凹目标分布时的收敛速度，提出了一个比传统李普希茨海森常数条件更宽松的第三阶正则条件，并证明了二阶 “跳跃点” 算法的收敛速度为 $d^{1/4}$，并在合成数据的仿真实验中得到了验证。

Feb, 2018

Hamiltonian Monte Carlo 的耦合与收敛

通过一种新的耦合方法，我们证明了 Hamiltonian Monte Carlo 算法的转换步对于经过精心设计的 Kantorovich（L1Wasserstein）距离是收缩的。收敛速率的下界是明确的，全局凸性不是必需的，因此包括多模式目标分布。收缩性的显式量化界限直接推出了近似到给定误差的稳态分布所需的步骤数。这些界限表明，如果调整 Hamiltonian 动力学的持续时间，则 HMC 可以克服扩散行为。

May, 2018

随机哈密顿蒙特卡洛作为弹性粒子采样器的缩放极限和无维收敛速率

本文提出基于非可逆分段确定性马尔可夫过程的 Bouncy Particle Sampler 算法，通过在均匀和不均匀 Poisson 过程到达时弹跳并随机扰动速度，使粒子探测兴趣状态空间。经过充分的正则性条件分析，本文证明了该算法的一部分和其相应的速度在空间维度趋于无穷时弱收敛于随机哈密顿蒙特卡罗 (RHMC) 算法。通过耦合思想和 Hypocoercivity 技术，我们还建立了 RHMC 算法在具有有界 Hessian 的强对数凹目标上的无维收敛速率。

Aug, 2018

在强对数凹分布上快速混合的哈密尔顿蒙特卡罗算法

本文研究了 Hamiltonian Monte Carlo 算法在强对数凹目标分布上的混合性能，并得出了基于维度的混合度量和用于从 π 中采样的 HMC 跳跃步的梯度评估相关定理。

Aug, 2017

黎曼流形哈密顿蒙特卡罗

研究了一种基于 Riemann 流形的 Hamiltonian Monte Carlo 采样算法，通过自适应方法规避了调整提议密度的需求，使得即使在高维状态空间建模中，也能更加高效地采样，该方法在众多实证分析中表现出较大的优越性，Matlab 代码在 http://www.dcs.gla.ac.uk/inference/rmhmc 可复现。

Jul, 2009