本篇论文提出了一种基于双重随机变分推断和高斯过程的可扩展训练算法,用于可靠地训练完全概率状态空间模型中的潜在状态时间相关性, 并在真实世界基准数据集集上评估了所提出的 PR-SSM 的效果与最先进的概率模型学习方法进行了比较
Jan, 2018
本文引入一种基于深度状态空间模型的概率时间序列预测方法,其中非线性发射模型和转移模型由网络参数化,并采用循环神经网络对其进行建模。通过自动相关性确定网络,我们还开发了一个利用外生变量的网络,以及估算外生变量不确定性,最终有助于确定有用的外生变量和压制预测中不相关的变量。使用蒙特卡罗模拟来逼近多步预测的分布,实验表明我们的模型可以准确地预测并且估算的时间随着预测步数的增加而逐渐增长。
Jan, 2021
提出了一种深度生成马尔可夫状态模型(DeepGenMSM)学习框架,用于推断亚稳定动态系统和预测轨迹。经过对时间序列数据的无监督训练后,模型可以对长时间动力学进行分析和预测系统演化,同时生成物理合理的结构。
May, 2018
本研究通过将结构信息整合到在线逼近目标中,采用拉普拉斯正则化项,将状态空间模型理论扩展到时间图,提出了 GraphSSM 框架,用于建模时间图的动态性,实验证明 GraphSSM 在各种时间图基准测试中的有效性。
Jun, 2024
本文提出了一种基于图神经网络的深度状态空间模型,用于建模交互式动态系统,且预测分布为多峰高斯混合模型,同时提出了结构化的协方差近似方法,可以适用于具有多个智能体的系统,并在自动驾驶数据集上进行了测试并与现有技术进行了比较。
May, 2023
提出了神经连续 - 离散状态空间模型 (NCDSSM),用于对时间序列进行连续时间建模。该模型使用辅助变量进行识别和动态分离,从而仅需要为辅助变量进行摊销推理。通过连续离散滤波理论,提出了三种灵活的潜在动态参数化方法和一种能够较快地进行后验推理的训练目标函数。实验结果表明,NCDSSM 在多个基准数据集上都比现有模型具有更好的插补和预测性能。
Jan, 2023
通过引入具有可学习时间尺度参数的状态空间模型(SSM)来处理事件感测器数据,解决了在不同频率下部署模型的挑战,并且与传统 RNN 和 Transformer 模型相比,SSM 模型在事件感测任务中训练速度更快,且在更高频率的测试输入下表现出较小的性能降低。
Feb, 2024
本文介绍了 Gaussian 过程状态空间模型,并探讨最大的挑战 —— 系统识别,提出了基于双向循环神经网络的结构化高斯变分后验分布来处理推断问题,并使用重参数化技巧有效计算边缘似然的下界,可以在观察到真实系统的少量数据后生成可信赖的未来轨迹。
May, 2017
本文提出了一种基于关系状态空间模型 (R-SSM) 的序列分层潜变量模型,其利用图神经网络 (GNNs) 模拟多个相关对象的联合状态转移,同时提供了一种灵活的将关系信息纳入到多对象动态建模的方式,并且通过实验在合成和真实时间序列数据集上进行了验证。
Jan, 2020
该论文提出了一种基于图结构状态空间模型的概率推理方法,利用深度学习和高斯马尔可夫随机场的有原则的推理方法,定义简单的空间和时间图层,并通过变分推理从单个时间序列中高效地学习出灵活的时空先验分布,可缩放地采样出闭合的后验。
Jun, 2023