基于 Monge 修补的拉格朗日流形蒙特卡罗
本文提出了一个新的度量来改进 Riemannian Manifold Hamiltonian Monte Carlo (RMHMC) 在分析上具有困难的模型应用的限制,验证了该度量在一种模拟许多分层和潜在模型的分布上取得的成功。
Dec, 2012
研究了一种基于 Riemann 流形的 Hamiltonian Monte Carlo 采样算法,通过自适应方法规避了调整提议密度的需求,使得即使在高维状态空间建模中,也能更加高效地采样,该方法在众多实证分析中表现出较大的优越性,Matlab 代码在 http://www.dcs.gla.ac.uk/inference/rmhmc 可复现。
Jul, 2009
通过几何 Langevin MCMC 从一个 Riemann 流形 M 上的 Gibbs 分布 dπ* 进行高效采样的任务,我们提出了一种在实践中可实现的算法,该算法涉及在随机高斯方向上计算指数映射。通过对几何 Euler-Murayama 方案的离散化误差进行界定,假设▽h 是 Lipschitz 的且 M 具有有界的切向曲率,我们的误差界限与欧几里得 Euler-Murayama 的误差相匹配,结合 Kendall-Cranston 耦合下的几何 Langevin 扩散的收缩保证,我们证明 Langevin MCMC 迭代在经过~O (ε^-2) 次步骤后,与 π* 之间的 Wasserstein 距离小于 ε,这与欧几里得 Langevin MCMC 的迭代复杂性相匹配。我们的结果适用于具有非凸 h 和具有负 Ricci 曲率的一般设置。在额外的假设下,即 Riemann 曲率张量具有有界导数且 π* 满足 CD (・,∞) 条件,我们分析了 Langevin MCMC 的随机梯度版本,并将其迭代复杂性限制在~O (ε^-2) 次。
Feb, 2024
本文讨论了基于浸入流和哈密尔顿 - 雅可比表示描述的测地线流的概率密度函数流形的 Markov chain Monte Carlo 方法,并基于流形支撑下的测地线流开发了提案机制,文中用超球面和正交矩阵的 Stiefel 流形为例进行了说明。
Jan, 2013
针对欧几里得空间中相等和不等约束定义的流形,我们描述并分析了一些蒙特卡洛方法,其中提出了一个采用正交投影进行采样的 MCMC 采样器,来计算该流形上定义的非归一化概率分布。我们使用这个采样器来开发一个多阶段算法,并提供单次运行误差估计,以计算这种流形上的积分。计算实验表明算法和误差估计在实践中成立。该方法应用于计算不同粘性硬球体系的熵,从而预测硬粘球链环变得优于链时的温度或相互作用能量。
Feb, 2017
本文提出了一种新的度量学习方法(几何缓和哈密顿蒙特卡罗法),以改善 Hamiltonian Monte Carlo 在多模态目标分布中的性能,并通过仿真数据表明,该方法可以显著提高有效样本量。
Apr, 2016
本研究提出了一种新的随机梯度马尔可夫链蒙特卡罗方法,通过使用拟牛顿优化方法的思想考虑局部几何,并使用样本和它们的梯度的有限历史直接近似逆海森矩阵。方法使用密集逆海森近似,同时保持时间和内存复杂度与问题的维数成线性关系,我们的理论分析表明,该方法在渐近无偏和一致后验期望的同时,实现了类似于黎曼方法的快速收敛率和对角线预处理方法的低计算要求。
Feb, 2016
本文研究了图像生成的任务,结合马尔可夫链蒙特卡罗技术及 Langevin Dynamics 的理论优势,提出使用流形假设减少混合时间并利用多尺度算法解决高维采样空间对计算性能的影响,以达到平衡图像质量和计算成本的目的。
Jun, 2020
本研究主要探讨了在 Hessian 型流形上的 Langevin 扩散过程与镜像下降的关系,运用该理论推导出了 Hessian Riemannian Langevin Monte Carlo 算法的非渐进抽样误差上限并证明了其适用性。
Feb, 2020
该研究论文展示了一种新的用于处理约束目标分布的马尔可夫链蒙特卡罗 (MCMC) 方法,该方法通过映射参数限制域到单位球面完成对参数空间的增广,因此能够在处理约束的同时自由运动于球面上,并且实验证明此方法可以有效的提高计算效率。
Sep, 2013