变分高斯过程状态空间模型
本文介绍了一种用高斯过程状态空间模型进行高效贝叶斯学习的方法,其中高斯过程投影到利用先验协方差结构导出的一组近似特征函数集合上。通过谨慎设计的粒子 MCMC 算法,可以在这种模型家族下进行学习。相比传统的系统识别工具或现有的学习方法,我们在模型不确定性的可靠量化方面表现更具竞争力。
Jun, 2015
通过向状态转移动力学分布中添加高斯过程先验,结合分析型建模和蒙特卡罗采样器进行直接联合平滑分布推断的方法,提出了一种非线性非参数状态空间模型的完全贝叶斯方法。
Jun, 2013
本文提出了结合 inducing points 和 state-space formulation 的方法,并给出了相应的 varitational parameterisation 公式,该方法在深度高斯过程模型中的应用效果明显。
Jan, 2020
该论文提出了一种使用 Kalman 递归实现线性时间推断的方法,避免了数值不稳定和收敛问题,通过实现该方法,解决了在处理非高斯似然时所遇到的麻烦,同时达到了快速稳定的变分推断效果,可处理包含百万数据点的时间序列的状态空间高斯过程模型。
Jul, 2020
本研究提出了一种统一算法,以高效学习一类广泛的线性和非线性状态空间模型为主,包括由深度神经网络建模的发射和转移分布,使用结构化变分逼近参数化的循环神经网络来模拟后验分布,同时学习编译的推理网络和生成模型。通过应用于合成和真实数据集,本算法展现了其可扩展性和通用性,并发现使用结构化的后验近似会导致具有显著更高留存的可能性的模型。
Sep, 2016
本文介绍了一种基于基函数扩展表达的非线性状态空间模型,通过连接高斯过程发展先验条件对系数进行学习,进而使用最先进的序贯蒙特卡罗方法进行系数学习,结果表明该方法在经典基准数据集和真实数据上取得了良好的结果。
Mar, 2016
本文介绍了 Gaussian 过程状态空间模型,并探讨最大的挑战 —— 系统识别,提出了基于双向循环神经网络的结构化高斯变分后验分布来处理推断问题,并使用重参数化技巧有效计算边缘似然的下界,可以在观察到真实系统的少量数据后生成可信赖的未来轨迹。
May, 2017
通过应用随机变分推断方法,提出一种结构化高斯近似后验,用于近似后验更普遍、非线性的潜变量生成模型,且相较于特定非共轭模型的定制化变分方法具有更好的表现;该方法旨在用于潜在动态结构模型的黑盒近似推断。
Nov, 2015
本文介绍了一种非线性概率变分方法 - 变分高斯过程动态系统来处理高维时间序列数据中的非线性降维问题,同时在潜空间中学习动态先验,并允许自动确定潜在空间的维数,该方法在人体运动捕捉数据集和一系列高分辨率视频序列上进行了演示。
Jul, 2011
本文提出了一种可扩展的近似贝叶斯推断方法,在泛型状态空间模型中,相较于粒子 MCMC 提供了动态潜在状态和模型静态参数的完全贝叶斯推断,从而在多元随机波动模型和自激兴奋点过程模型中实现了可扩展的推断。
May, 2018