高维非线性动力系统跟踪的集成得分过滤器

Sep, 2023

高维非线性动力系统跟踪的集成得分过滤器

An Ensemble Score Filter for Tracking High-Dimensional Nonlinear Dynamical Systems

Feng Bao, Zezhong Zhang, Guannan Zhang

TL;DR我们提出了一种用于解决高维非线性滤波问题的集成评分滤波器（EnSF），具有出色的准确性。EnSF 通过利用在伪时间域中定义的基于评分的扩散模型来表示滤波密度的演化，攻克了现有滤波方法（如粒子滤波器或集成卡尔曼滤波器）在处理高维度和高度非线性问题时低准确性的主要缺点。与训练神经网络来近似评分函数的现有扩散模型不同，我们开发了一种无需训练的评分估计方法，使用基于小批量的蒙特卡洛估计器直接近似评分函数，既可以在解决高维非线性问题时提供足够的准确性，又可以节省大量用于训练神经网络的时间。EnSF 的另一个重要方面是其分析更新步骤，逐渐将数据信息融入评分函数，这在处理非常高维度非线性滤波问题时缓解退化问题是至关重要的。我们使用高维洛伦兹系统来演示我们方法的性能。EnSF 在可靠地跟踪高度非线性观测过程的极高维洛伦兹系统（高达 1,000,000 维）中表现出了令人惊讶的性能，这是现有滤波方法面临的一个众所周知的具有挑战性的问题。

Abstract

We propose an ensemble score filter (EnSF) for solving high-dimensional nonlinear filtering problems with superior accuracy. A major drawback of existing filtering methods, e.g., particle filters or ensemble Kalman filters, is the low accuracy in handling high-dimensional and highly no

ensemble score filter high-dimensional nonlinear filtering score-based diffusion model training-free score estimation degeneracy issue

发现论文，激发创造

非线性集合滤波的耦合技术

针对高维度的非高斯状态空间模型、非线性且可能是混沌动力学以及空间与时间稀疏的观测，我们提出了一种新的过滤方法，使用交通测度、凸优化和概率图模型的思想来产生高维度下的坚韧的集成近似过滤分布。我们的方法可被理解为集成卡尔曼滤波器（EnKF）的自然推广，使用随机或确定性耦合来进行非线性更新。使用非线性更新可以降低 EnKF 的固有偏差，只带来少量的计算成本。我们避免了任何形式的重要性采样，并引入了维度可扩展性的非高斯本地化方法。我们的框架在混沌区域的 Lorenz-96 模型的挑战配置下实现了最先进的跟踪性能。

Jun, 2019

二阶精确集合变换粒子滤波器

本篇论文提出了对于粒子滤波器中常常出现的集合退化现象，使用了基于 Sinkhorn 算子的二阶精度分析方法，使得 ensemble transform particle filter 可以在小到中等大小的组集情况下得到更高的精度，同时也提出了非线性 ensemble transform filter。

Aug, 2016

增强用集成方法的基于分数抽样方法

利用基于分数的采样方法引入集合模型，从而通过利用粒子集合的集体动力学来计算近似反扩散漂移，解决了在概率分布复杂、梯度不可用的情况下建模的问题。

Jan, 2024

一种用于贝叶斯推断的非参数集成变换方法

本文通过解决离散随机变量的最优运输问题，提出了一种新的转换方法，不依赖于先验和后验分布的任何先验假设，从而改进了蒙特卡洛方法中贝叶斯推断的实现方式。

Oct, 2012

非连续集成卡尔曼滤波使用分布数组

该研究通过引入新的分布式实现的集合卡尔曼滤波器（EnKF），实现了对高维问题中大数据集的非顺序同化。采用传统的 EnKF 算法在计算上是复杂的，并在需要与背景协方差矩阵交互的应用中存在困难，因此需要使用顺序同化等方法，但这可能导致意外后果，如对观测排序的依赖。我们的实现利用了分布式计算的最新进展，在分布式内存中构建和使用完整的模型误差协方差矩阵，允许对所有观测进行批量同化，消除了顺序依赖。对比性能评估包括合成和现实世界的古气候重建应用结果表明，新的非顺序实现优于传统的顺序实现。

Nov, 2023

基于最优传输的高维非线性滤波

基于最优输运解释的非线性滤波方法通过模拟和无似然算法估计从当前状态分布到下一个时间步的 Brenier 最优输运映射，利用神经网络建模复杂和多模态分布以及采用随机优化算法提高可伸缩性，通过广泛的数值实验与 SIR 粒子滤波器和集合卡尔曼滤波器进行比较，展示了我们方法在样本效率、高维可伸缩性和捕捉复杂和多模态分布等方面的优越性。

Oct, 2023

具有 Nyström 核指数族的高效和基本得分估计

本研究提出了一种学习指数族密度模型的快速方法，其中自然参数在再生核希尔伯特空间中，可以是无限维的。该模型通过拟合对数密度的导数来实现学习，从而避免了计算归一化常数的需求。该方法在密度估计和构建自适应哈密尔顿蒙特卡洛取样器方面得到了评估。

May, 2017

使用变分推断学习最优滤波器

利用变分推断学习参数化分析映射，通过估计条件分布对于动态系统的滤波分布，在过滤线性和非线性动态系统中也适用。

Jun, 2024

集合卡尔曼滤波辅助变分推断在高斯过程态空间模型中的应用

通过集成卡尔曼滤波器（EnKF）近似推断隐藏状态的后验分布，我们提出了一种改进的变分推断方法，有效地训练高斯过程状态空间模型（GPSSM），并在学习和推断性能方面优于现有方法。

Dec, 2023

深度网络作为去噪算法：在高维图模型中有效学习扩散模型

利用深度神经网络来近似评分函数的效率在基于扩散的生成建模中进行了研究，我们观察到评分函数可以通过变分推断去噪算法在图模型中得到较好的近似，同时这些算法适用于高效的神经网络表示，通过示例验证了这一观察，并结合离散化误差界限为基于扩散的生成建模提供了有效的样本复杂度界限。

Sep, 2023