ACLApr, 2018

用神经粒子平滑法从条件序列模型中进行采样

PDF
TL;DR本文介绍了神经粒子平滑法，一种用于从给定概率模型中采样输入字符串注释的顺序蒙特卡罗方法，通过训练向前看的 LSTM 来改进样本的质量，同时解释了神经模型和神经采样器可被视为处理非常大状态空间上的 HMM 时的低维非线性逼近。
neural particle smoothingsequential monte carloproposal distributionlstmhmms
发现论文，激发创造
  • 连续时间事件流中的丢失事件插补

    本文提出了一种基于粒子平滑的方法，通过使用一种基于双向连续时间（LSTM）的可训练提议分布来填补残缺的序列，从而推断出遗漏的事件序列，该方法在多个合成和真实领域实验中表现出色，在推断地面真实未观察到的事件方面十分有效。

    May, 2019

  • 神经自适应序贯蒙特卡罗

    本文介绍了一种新的适应性 SMD 方法，该方法使用了 Kullback-Leibler 散度的近似来自动适应提议分布，该方法非常灵活，适用于任何参数化的提议分布，并支持在线和批处理变量，我们使用新框架来适应基于神经网络的强大提议分布，从而导致神经自适应序贯蒙特卡洛，实验表明，在非线性状态空间模型中，NASMC 显着改善了推断，优于自适应提议方法，包括扩展卡尔曼和无味粒子滤波器，也表明当 NASMC 用作粒子分辨率 Metropolis　Hastings 的子程序时，改进的推断可转化为参数学习的改进。最后，我们展示 NASMC 能够训练潜在变量递归神经网络（LV-RNN），达到与多态音乐建模的最新水平竞争的结果。NASMC 可以看作是将自适应 SMC 方法与最近的可扩展的黑箱变分推理工作之间的桥梁。

    Jun, 2015

  • 透过连续粒子滤波在循环神经网络中进行隐状态近似

    本文介绍一种基于历史数据，使用逐步加粗的粒子来近似表示潜在状态分布的序列预测模型，利用连续可微分的方案，根据贝叶斯规则，自适应提取有价值的信息和更新潜在状态，并在预测任务中取得了良好的效果。

    Dec, 2022

  • 一般状态空间隐马尔可夫顺序蒙特卡罗平滑

    本文研究了粒子方法逼近平滑分布问题，并提出线性时间复杂度的联合平滑分布的逼近算法。在该模型下，本文的主要贡献是建立了收敛性质和边界，证明了一些误差估计的一致性。

    Feb, 2012

  • 粒子学习和平滑

    这篇论文介绍了一种基于粒子学习的方法，该方法使用条件统计量作为粒子来估计状态和参数，并可以解决参数不确定性下的状态平滑问题，实验结果表明该方法优于现有的粒子过滤算法并与 MCMC 算法相当。

    Nov, 2010

  • 基于粒子流的循环神经网络用于概率时空预测

    采用基于粒子流的贝叶斯推理方法，通过状态空间模型实现时间序列预测以及不确定性分析，比当前点预测方法提供更好的不确定性特征与相似的预测准确性。

    Jun, 2021

  • 使用数据驱动的顺序蒙特卡罗方法在概率编程中

    通过先前推理的后验估计，训练一种判别模型，即神经网络，来逼近最优提议分布，最终在 Anglican 概率编程系统中呈现一种非参数模型中基于数据驱动提议的实例，并表明数据驱动提议可以显著提高推理性能，从而需要更少粒子进行良好的后验估计。

    Dec, 2015

  • 使用粒子马尔科夫蒙特卡罗推理的状态空间 LSTM 模型

    介绍了一种结合状态空间模型和 LSTM 的方法，提出了一种有效使用序贯蒙特卡洛方法的采样器。实验结果表明 SMC 推理算法在多个领域中具有优越性和稳定性。

    Nov, 2017

  • 粒子滤波循环神经网络

    本研究介绍了一种新的递归神经网络的方法，即基于粒子滤波的递归神经网络，它将不确定性建模为一组粒子，并提出了一种全可微分的粒子滤波算法来更新其内部状态分布，实验证明该方法在真实世界序列预测方面优于标准门控递归神经网络。

    May, 2019

  • 实用 N2 Monte Carlo 方法：边缘粒子滤波器

    提出了一种称为边际粒子滤波器的顺序蒙特卡罗算法，可以直接操作边际分布从而避免在目标分布维度不断增加时进行重要性抽样。同时，通过该算法提出了改进版的辅助粒子滤波器并给出了理论和实证结果，证明了该方法相较于传统粒子滤波可降低方差，并给出了把算法复杂度降至 O (N logN) 的技巧。

    Jul, 2012