流形上蒙特卡罗方法:密度采样和函数积分
研究了一种基于 Riemann 流形的 Hamiltonian Monte Carlo 采样算法,通过自适应方法规避了调整提议密度的需求,使得即使在高维状态空间建模中,也能更加高效地采样,该方法在众多实证分析中表现出较大的优越性,Matlab 代码在 http://www.dcs.gla.ac.uk/inference/rmhmc 可复现。
Jul, 2009
本文讨论了基于浸入流和哈密尔顿 - 雅可比表示描述的测地线流的概率密度函数流形的 Markov chain Monte Carlo 方法,并基于流形支撑下的测地线流开发了提案机制,文中用超球面和正交矩阵的 Stiefel 流形为例进行了说明。
Jan, 2013
本文提出一种新型的利用 Monge patch 嵌入为高维欧几里得空间,并采用由直接几何推理确定的诱导度量的可替代性黎曼度量,该度量仅需要一阶梯度信息和快速的逆和行列式,从而将计算迭代的复杂度从三次多项式降低到二次多项式,使得 Lagrangian Monte Carlo 在该度量下能够高效地探索目标分布。
Feb, 2022
通过几何 Langevin MCMC 从一个 Riemann 流形 M 上的 Gibbs 分布 dπ* 进行高效采样的任务,我们提出了一种在实践中可实现的算法,该算法涉及在随机高斯方向上计算指数映射。通过对几何 Euler-Murayama 方案的离散化误差进行界定,假设▽h 是 Lipschitz 的且 M 具有有界的切向曲率,我们的误差界限与欧几里得 Euler-Murayama 的误差相匹配,结合 Kendall-Cranston 耦合下的几何 Langevin 扩散的收缩保证,我们证明 Langevin MCMC 迭代在经过~O (ε^-2) 次步骤后,与 π* 之间的 Wasserstein 距离小于 ε,这与欧几里得 Langevin MCMC 的迭代复杂性相匹配。我们的结果适用于具有非凸 h 和具有负 Ricci 曲率的一般设置。在额外的假设下,即 Riemann 曲率张量具有有界导数且 π* 满足 CD (・,∞) 条件,我们分析了 Langevin MCMC 的随机梯度版本,并将其迭代复杂性限制在~O (ε^-2) 次。
Feb, 2024
本文提出了从 Rn 中嵌入的子流形上的概率分布中进行抽样的算法,并应用于 “拓扑统计” 中算法的评估,指数族的拟合度检验以及 Neyman 的平滑检验。该文章部分是阐述性的,介绍了几何测度论的工具。
Jun, 2012
我们提出了一种在 Riemannian 流形上进行分布学习的替代方法,该方法只需要一次函数评估,然后将结果投影到流形上。通过在切空间中评估的迹来估计负对数似然的梯度,我们在各种流形上评估了我们的方法,并发现相比之前的工作,推断速度显著提高且具有竞争性的性能。我们在该网址上公开了我们的代码。
Dec, 2023
本文提出了用于流形上均值估计和检验问题的非参数推理方法,推导出了 Frechet 样本均值的中心极限定理,导致了关于黎曼流形中固有样本均值的渐近分布理论。同时,对于嵌入欧几里得空间的可微流形的外部样本均值也得到了中心极限定理。还提出了特别适用于这些问题的自助法方法。该方法在球面、实射影空间、复射影空间等多个应用领域具有广泛应用。
Jul, 2005
本研究提出了流形密度函数作为一种本质方法来验证流形学习技术。我们的方法通过改进 Ripley 的 K - 函数,在非监督设置中对流形学习算法的输出与潜在流形的结构相符程度进行分类。我们的流形密度函数适用于广泛的黎曼流形类别,并通过使用高斯 - 博内特定理将流形密度函数推广至一般的二维流形,并证明了在超平面上,该流形密度函数可使用第一个拉普拉斯特征值进行良好的近似。此外,我们证明了理想的收敛性和鲁棒性属性。
Feb, 2024
Markov 链蒙特卡洛 (MCMC) 是推断隐藏马尔可夫模型的可行方法,但由于参数空间中蒙特卡洛采样器在不确定区域内随机采取小步骤,受维度诅咒的约束往往导致计算上的限制。我们首次将目标的后验分布视为样本在无限维欧几里得空间中的映射,其中嵌入了确定性子流形,并提出了一种通过最大化加权里捷极化量来离散化可矩阵流形的新准则。我们研究了 Chebyshev 粒子的特性,并将它们嵌入到连续的 MCMC 中,这是一种高接受率的新型采样器,只提出了少量评估。我们在合成数据的线性高斯状态空间模型和真实数据的非线性随机波动率模型的参数推断实验中取得了高性能。
Sep, 2023