Feb, 2024

动力系统实验设计中的分层粒子滤波

PDF
TL;DR本文提出了一种新颖的贝叶斯实验设计方法，将其作为风险敏感型策略优化来进行，我们开发了一种内外 SMC^2 算法，用嵌套顺序蒙特卡洛估计器来估计预期信息增益，并将其嵌入到一个粒子马尔可夫链蒙特卡洛框架中进行基于梯度的策略优化，与近期的方法相比，我们的方法不依赖于对预期信息增益使用偏差估计器来通过预先学习设计策略来摊销实验成本，在一组动力系统上的数值验证展示了我们方法的有效性与其他最先进策略的比较。
bayesian experimental designrisk-sensitive policy optimizationinside-out smc^2 algorithmnested sequential monte carloparticle markov chain monte carlo
发现论文，激发创造
  • 基于无偏 MLMC 随机梯度的贝叶斯实验设计优化

    该论文提出了一种高效的随机优化算法，通过引入随机多层次蒙特卡洛（MLMC）方法，使用无偏的蒙特卡罗估计器求解期望信息增益的梯度，该算法具有较高的性能，可以用于搜索最优的贝叶斯实验设计，适用于简单测试问题和现实药代动力学问题。

    May, 2020

  • SMC^2: 一种用于状态空间模型顺序分析的高效算法

    本文提出了一种应用于状态空间模型的序贝叶斯推断算法 ——SMC^2 算法，它将粒子滤波器和粒子马尔可夫链蒙特卡洛方法相结合，在 θ 维度上进行粒子重要性采样，并通过重新采样步骤和 MCMC 更新步骤来更新粒子，从而解决了状态空间内，用常规方式无法计算出的条件概率密度增量。

    Jan, 2011

  • 通过互信息的顺序贝叶斯实验设计隐式模型

    我们提出了一种新的序列设计框架，利用实现样本采样的隐式模型分类中的相互信息来寻找最佳实验设计，通过 Bayesian 优化来帮助我们优化 MI 效用，我们发现我们的框架对于各种测试的隐式模型非常有效，在几次迭代后可以产生准确的参数估计。

    Mar, 2020

  • 贝叶斯实验设计中预期信息增益梯度的估计

    为了实现贝叶斯推理的最佳实验条件，本研究提出了两种估计信息增益梯度的方法：UEEG-MCMC 通过马尔科夫链蒙特卡罗生成后验样本来估计信息增益梯度，而 BEEG-AP 通过反复使用参数样本以实现高模拟效率。理论分析和数值研究表明，在实际信息增益值方面，UEEG-MCMC 具有较强的鲁棒性，而当待优化的信息增益值较小时，BEEG-AP 更加高效。此外，在数值实验中，与几种常用基准方法相比，这两种方法都表现出了更优越的性能。

    Aug, 2023

  • 神经自适应序贯蒙特卡罗

    本文介绍了一种新的适应性 SMD 方法，该方法使用了 Kullback-Leibler 散度的近似来自动适应提议分布，该方法非常灵活，适用于任何参数化的提议分布，并支持在线和批处理变量，我们使用新框架来适应基于神经网络的强大提议分布，从而导致神经自适应序贯蒙特卡洛，实验表明，在非线性状态空间模型中，NASMC 显着改善了推断，优于自适应提议方法，包括扩展卡尔曼和无味粒子滤波器，也表明当 NASMC 用作粒子分辨率 Metropolis　Hastings 的子程序时，改进的推断可转化为参数学习的改进。最后，我们展示 NASMC 能够训练潜在变量递归神经网络（LV-RNN），达到与多态音乐建模的最新水平竞争的结果。NASMC 可以看作是将自适应 SMC 方法与最近的可扩展的黑箱变分推理工作之间的桥梁。

    Jun, 2015

  • 粒子方法用于状态空间模型参数估计

    本文综述了粒子方法在状态空间模型中进行静态参数估计的应用，探讨了这些方法的优点和局限性，并以简单模型为例说明了它们的性能。

    Dec, 2014

  • 粒子基于贝叶斯最优自适应设计

    我们提出了一种名为 PASOA 的新程序，用于贝叶斯实验设计，通过同时提供参数推断的连续后验分布的准确估计来执行顺序设计优化。该程序使用对比估计原理、随机优化和顺序蒙特卡洛采样器来进行顺序设计过程，以最大化预期信息增益。通过在连续后验分布之间逐渐增大距离，获得了较大的信息增益，但这会影响经典顺序蒙特卡洛采样器的性能。为解决这个问题，我们提出了温度调节方法，旨在同时实现较大的信息增益和准确的蒙特卡洛采样，它对性能至关重要。这种随机优化和温度调节的新颖组合能够共同处理设计优化和参数推断。我们证明了所得到的最优设计估计器具有一些一致性特性。数值实验证实了这种方法的潜力，该方法胜过其他最近存在的程序。

    Feb, 2024

  • 增强 SMC2：在 Langevin 提议中利用可微分粒子滤波器的梯度信息

    该研究介绍了一种新的方法，通过利用 PyTorch 从 Common Random Numbers - Particle Filter (CRN-PF) 中获得的一阶梯度，结合 Langevin 动力学提案，而无需接受 / 拒绝的方式，从而得到更高的有效样本量和更准确的参数估计，特别应用于高维参数空间的 SMC$^2$ 算法。

    Jul, 2024

  • 利用粒子 MCMC 对高斯过程状态空间模型进行贝叶斯推断和学习

    通过向状态转移动力学分布中添加高斯过程先验，结合分析型建模和蒙特卡罗采样器进行直接联合平滑分布推断的方法，提出了一种非线性非参数状态空间模型的完全贝叶斯方法。

    Jun, 2013

  • 设计贝叶斯最优实验的统一随机梯度方法

    本文提出了一种全概率梯度方法来解决贝叶斯最优实验设计的问题，该方法利用变分下界来进行预期信息增益的优化，并提供多种变分目标，最终表现出比现有方法在高维设计优化中更有效的性能。

    Nov, 2019