扰动状态空间模型与粒子边缘 Metropolis-Hastings 采样器

Feb, 2012

扰动状态空间模型与粒子边缘 Metropolis-Hastings 采样器

On Disturbance State-Space Models and the Particle Marginal Metropolis-Hastings Sampler

Lawrence M. Murray, Emlyn M. Jones, John Parslow

TL;DR通过对潜在噪声变量而非潜在状态变量进行重新表述的方法，我们研究了没有闭合形式转移的非线性状态空间模型。研究发现，这种转化实现了可计算的噪声密度以代替不可计算的转移密度，可作为辅助粒子滤波器等重要性抽样方法中的重要权重计算。通过两个多元海洋生物地球化学模型的实例探讨粒子边缘 Metropolis-Hastings 采样器的状态和参数估计问题。结果表明，对于快速混合过程模型来说，重新表述噪声变量的模型非常有用。

Abstract

We investigate nonlinear state-space models without a closed-form transition density, and propose reformulating such models over their latent noise variables rather than their latent state variables. In doing so the tractable noise density emerges in place of the intractable transition

nonlinear state-space models latent noise variables particle filter metropolis-hastings sampler marine biogeochemical models

发现论文，激发创造

利用粒子 MCMC 对高斯过程状态空间模型进行贝叶斯推断和学习

通过向状态转移动力学分布中添加高斯过程先验，结合分析型建模和蒙特卡罗采样器进行直接联合平滑分布推断的方法，提出了一种非线性非参数状态空间模型的完全贝叶斯方法。

Jun, 2013

一般状态空间隐马尔可夫顺序蒙特卡罗平滑

本文研究了粒子方法逼近平滑分布问题，并提出线性时间复杂度的联合平滑分布的逼近算法。在该模型下，本文的主要贡献是建立了收敛性质和边界，证明了一些误差估计的一致性。

Feb, 2012

实用 N2 Monte Carlo 方法：边缘粒子滤波器

提出了一种称为边际粒子滤波器的顺序蒙特卡罗算法，可以直接操作边际分布从而避免在目标分布维度不断增加时进行重要性抽样。同时，通过该算法提出了改进版的辅助粒子滤波器并给出了理论和实证结果，证明了该方法相较于传统粒子滤波可降低方差，并给出了把算法复杂度降至 O (N logN) 的技巧。

Jul, 2012

Metropolis-Hastings 微分优化难以计算的密度函数

本文提出了一种用于无偏区别 Metropolis-Hastings 采样器的方法，使得我们能够通过概率推理进行不可行目标密度的优化，该方法通过融合随机区分的最新进展和马尔可夫链耦合方案，可以使该过程无偏、低方差和自动化，然后将其应用于期望为不可行目标密度的优化中。在文中所提出的方法中，分别应用到高斯混合模型中找到不明显的观察和 Ising 模型中的特定热容的最大化。

Jun, 2023

弹性粒子采样器：一种非可逆无拒绝的马尔可夫链蒙特卡罗方法

本文介绍了利用连续时间马尔可夫过程探索目标分布的一种替代方法，该方法可以提供无拒绝的 MCMC 抽样方案，并且在采样混合离散 - 连续分布和被限制在平滑连通域上的分布时很有效。

Oct, 2015

基于最优传输的高维非线性滤波

基于最优输运解释的非线性滤波方法通过模拟和无似然算法估计从当前状态分布到下一个时间步的 Brenier 最优输运映射，利用神经网络建模复杂和多模态分布以及采用随机优化算法提高可伸缩性，通过广泛的数值实验与 SIR 粒子滤波器和集合卡尔曼滤波器进行比较，展示了我们方法在样本效率、高维可伸缩性和捕捉复杂和多模态分布等方面的优越性。

Oct, 2023

随机梯度哈密尔顿蒙特卡罗

研究了随机梯度 HMC，提出了一种使用带有摩擦项的二阶 Langevin 动力学的变体，以消除噪声梯度的影响，并使用该方法在神经网络和在线贝叶斯矩阵分解任务中验证了其有效性。

Feb, 2014

随机 Metropolis-Hastings 的统计保证

通过计算关键批次的接受概率，我们展示了在一些应用中通过简单的修正可以避免随机 Metropolis-Hastings 步骤降低有效样本量的障碍。我们在非参数回归背景下运用修正的随机 Metropolis-Hastings 方法，研究了链的稳定分布的统计性质，并通过证明 PAC-Bayes 学习器不等式来获得最优收缩速率，分析了置信集的直径和高覆盖概率。通过高维参数空间中的数值例子，我们展示了随机 Metropolis-Hastings 算法得到的置信集和收缩速率与经典的 Metropolis-adjusted Langevin 算法结果的相似性。

Oct, 2023

多个后验模式的可微稳定的远程跟踪

通过训练数据来区分地学习基于粒子的不确定性表示方法，通过深度神经网络编码器对任意观测进行条件下的连续概率混合分布表示的混合密度粒子滤波器，在连续潜在状态中提升准确性和鲁棒性。

Apr, 2024

具有非牛顿动量的哈密顿动力学用于快速采样

提出了一种基于 Hamiltonian 动力学的新型采样方法，这种方法通过非牛顿动量在超过状态空间中的确定性动力学下，从指定的能量函数中精确地采样出目标分布，比传统的 MCMC 方法收敛更快且无需随机步骤，并且可以用现有的 ODE 解算器求解。

Nov, 2021