熵匹配用于马尔可夫跳过程的期望传播
通过 Bayesian 框架和变分近似推断将离散时间观察和连续时间约束转化为在扩散过程的轨迹上的后验测量逆问题,同时使用化学朗之万方程将此逼近推广到广泛的离散状态马尔可夫跳跃过程中,取得了计算效率高和逆问题的较好逼近的实验结果。
Dec, 2015
本文提出了一种基于神经常微分方程的变分推断算法,在 Markov 跳跃过程中通过学习神经连续时间表示来近似后验分布,相比于 Monte Carlo 和期望最大化方法具有更高效的性能。
May, 2023
本文提出了基于矩的变分推断作为一种灵活的框架,用于近似光滑的潜在马尔可夫跳跃过程,并将满足一定条件的所有过渡划分为几个类别,该方法在参数推断中具有应用前景。
May, 2019
本文介绍了一种利用 Gibbs sampler 并基于均一化思想从马尔可夫跳过程的后验分布模拟路径的方法,并表明该方法在 MJP 模型上表现良好。
Aug, 2012
本研究提出了一种新的确定性逼近方法 ——“期望传播”,它将两种先前的技术统一起来,即卡尔曼滤波器的扩展和贝叶斯网络中一种置信传播方法的扩展;试图恢复一个近似分布,其 KL 散度接近真实分布,并且 Experiments with Gaussian mixture models show Expectation Propagation to be convincingly better than methods with similar computational cost: Laplace's method, variational Bayes, and Monte Carlo。而期望传播还提供了一种高效的算法,用于训练贝叶斯点机分类器。
Jan, 2013
本研究提出了一种在 Kalman 平滑过程中应用的简单参数更新规则,将非共轭时空高斯过程模型中的近似贝叶斯推理公式化,包括大部分推理方案,如 EP、经典 Kalman 平滑器和变分推理,并提供了这些算法的统一视角。
Jul, 2020
本文关注的是给定 N 个独立观测块的随机变量 X 和 Y 的联合概率的估计问题,我们推导了极大似然推断的函数形式,提出了一种可计算的逼近方法,并分析了它们的性质。我们证明了一个 Γ- 收敛结果,表明随着观测块的数量 N 趋于无穷大,我们能够从经验逼近中恢复真实的概率密度。通过熵最优输运核,我们建模了一类假设空间,通过最小化推断函数在该假设类上的值,可以近似推断数据中的转移算子。我们通过修改 EMML 算法以考虑额外的转移概率约束来解决所得到的离散最小化问题,并证明了该算法的收敛性。概念验证示例展示了我们方法的潜力。
Feb, 2024
本文提出了基于 Gibbs 采样的快速辅助变量算法,利用 uniformization 方法和隐式马尔可夫模型来推断这些模型中的未观测路径,并通过在一系列连续时间贝叶斯网络上展示了比最先进的 Gibbs 采样算法更显著的计算优势。
Feb, 2012