本文介绍了一种名为随机梯度马尔可夫链蒙特卡罗(SGMCMC)的可扩展蒙特卡罗算法,其利用数据子抽样技术降低了 MCMC 的迭代成本,并比较了其效率与 MCMC 在基准示例上的异同。
Jul, 2019
本文提出了一种基于前向滤波后向平滑算法的在线或正向递归计算附加功能期望值的 SMC 算法,相较于标准路径空间 SMC 估计量,该估计量的渐近方差只会线性增加,可以实现不会受到粒子路径退化问题的在线最大似然参数估计算法。
Dec, 2010
本文介绍了如何使用顺序蒙特卡罗方法来执行通常使用马尔可夫链蒙特卡罗方法完成的任务,从而导致一般类别的基于交互粒子系统的合理集成和遗传类型优化方法。
Dec, 2002
通过先前推理的后验估计,训练一种判别模型,即神经网络,来逼近最优提议分布,最终在 Anglican 概率编程系统中呈现一种非参数模型中基于数据驱动提议的实例,并表明数据驱动提议可以显著提高推理性能,从而需要更少粒子进行良好的后验估计。
Dec, 2015
在贝叶斯推断的一般框架中,目标分布只能以比例常数进行评估。我们发展了一种完全并行的顺序蒙特卡洛 (pSMC) 方法,可以证明其具有并行的强缩放性,即如果允许异步进程数量增长,则时间复杂度(和每个节点内存)保持有界。对于一些贝叶斯推断问题,我们将 pSMC 方法与 MCMC 方法进行了比较。
Feb, 2024
本文介绍了顺序蒙特卡罗取样器以及它们可能的实现,说明了顺序蒙特卡罗取样器在统计学中的被低估。这些取样器具有执行顺序推断和利用并行处理资源等潜在优势。
Jul, 2020
本研究介绍了一种利用学习启发式逼近随机反演的方法来摊销有向图模型中的推理,它专门设计用作顺序蒙特卡罗方法中的提议分布。我们描述了一种构建和学习结构神经网络的方法,该网络表示图形模型的逆因子分解,从而得到一个有条件密度估计器,该估计器以所观察到的随机变量的特定值作为输入,并返回潜变量的分布的近似值。可以在离线、独立于任何特定数据集、在执行推理之前学习这个识别模型。这些网络的输出可以用作自动学习的高质量提议分布,以加速在各种问题设置中进行顺序蒙特卡罗。
Feb, 2016
本文在变分推理中提出了一种新的逼近分布族:变分顺序蒙特卡罗(VSMC)族,并显示了如何在变分推理中优化它,从而将变分推理和顺序蒙特卡罗相结合,提供了灵活,准确且强大的贝叶斯推理。我们展示了它在状态空间模型,金融数据随机波动模型以及大脑神经电路的深度马尔可夫模型上的实用性。
May, 2017
本文提出了嵌套顺序蒙特卡罗 (NSMC) 方法,可以采样高维的概率分布,扩展了 SMC 框架并被用于复杂的高维模型和滤波问题中。
Feb, 2015
在该研究中,我们使用基于粒子方法和变分推断的变分序贯蒙特卡洛(VSMC)方法,在时间上分布了 VSMC 代理 ELBO 的梯度的近似,从而实现了面向数据流的在线学习,能够高效地进行参数估计和粒子提议适应。同时,我们提供了与数据量趋于无穷大时该算法收敛性质的严格理论结果,以及在批处理设置中的出色收敛性和实用性的数值说明。
Dec, 2023