通过最优化视角,我们讨论了动态系统的常规统计模型,并充分利用了非光滑凸惩罚和约束,提供了与信号处理和机器学习中重要模型的联系。我们调查了这些问题的优化技术,特别关注动态问题结构,并用数值例子说明了建模概念和算法。
Sep, 2016
本文提出了一种适用于高维动态系统的近似高斯滤波和平滑方法,通过投影预测步骤中与 Lyapunov 方程相关联的低秩矩阵流形来推进低秩协方差矩阵的逼近,从而将算法的复杂度从 Kalman 滤波的立方降至最坏情况下的二次方、并且在满足一定条件下可达到线性复杂度, experiments 中表明该方法在均值和协方差误差方面的表现优于基于集合的方法,成本不增加。
Jun, 2023
本文介绍了一种用高斯过程状态空间模型进行高效贝叶斯学习的方法,其中高斯过程投影到利用先验协方差结构导出的一组近似特征函数集合上。通过谨慎设计的粒子 MCMC 算法,可以在这种模型家族下进行学习。相比传统的系统识别工具或现有的学习方法,我们在模型不确定性的可靠量化方面表现更具竞争力。
Jun, 2015
用优化方法代替矩阵存储、求逆和乘法、蒙特卡罗估计等不适用于高维状态空间(如人工神经网络的权重空间)的传统方法,将标准的贝叶斯滤波问题转化为对具有时变目标的优化问题。我们发现,在线性 - 高斯模型下的卡尔曼滤波以及非线性模型的实验结果表明,我们的框架能够得到有效、稳健且可扩展到高维系统的滤波器,与标准贝叶斯滤波解决方案相比具有优势,并且我们认为,更容易调整优化器而不是确定正确的滤波方程,使我们的框架成为处理高维滤波问题的有吸引力的选择。
Nov, 2023
该文介绍了一种针对时间序列数据的非参数预测与降噪方法,使用高斯过程和卡尔曼滤波实现。此外还讲到了基于单次环境传输因子的推断方法,在算法复杂度方面有较好的优化表现,并且可以用于在线学习。
Nov, 2018
通过向状态转移动力学分布中添加高斯过程先验,结合分析型建模和蒙特卡罗采样器进行直接联合平滑分布推断的方法,提出了一种非线性非参数状态空间模型的完全贝叶斯方法。
Jun, 2013
本文研究了粒子方法逼近平滑分布问题,并提出线性时间复杂度的联合平滑分布的逼近算法。在该模型下,本文的主要贡献是建立了收敛性质和边界,证明了一些误差估计的一致性。
Feb, 2012
本文提出了一种名为 RKN 的循环卡尔曼网络,它可以在不使用其他近似方法(如变分推断)的情况下,使用反向传播直接学习高维因式分解潜在状态表示,从而具有能够精确估计不确定性的能力,并在图像插值任务中优于多种生成模型。
May, 2019
本文介绍了一种基于核函数和克里格 - Kalman 滤波器的图信号重建方法,其结合多核心选择模块,来优化信号动态变化下的核函数选择和同时减少计算复杂度,实验结果表明,该方法在信号重建方面优于现有的最新算法。
Nov, 2017
该论文提出了一种基于图结构状态空间模型的概率推理方法,利用深度学习和高斯马尔可夫随机场的有原则的推理方法,定义简单的空间和时间图层,并通过变分推理从单个时间序列中高效地学习出灵活的时空先验分布,可缩放地采样出闭合的后验。