该论文介绍了利用稀疏高斯过程进行非线性状态空间建模的高效变分贝叶斯学习的过程，以及后续的可处理的非线性动态系统建模、模型容量和计算成本的平衡、避免过度拟合以及使用混合推理方法（变分贝叶斯和顺序蒙特卡洛）进行主算法等。

Jun, 2014

本文提出了一种变分高斯过程(VGP)方法，该方法是一种贝叶斯非参数变分方法，利用随机非线性映射生成近似后验样本，适应于复杂的后验分布，且通过学习随机映射的分布来使之适应于不同的复杂度，该方法在无监督学习中实现了最新的最佳结果。

Nov, 2015

基于高斯过程和贝叶斯推理，提出了一种针对永续学习的功能正则化框架，该方法通过构建和记忆潜在任务特定函数的近似后验信念，避免遗忘以前的任务，并通过控制学习过程中KL正则化术语的使用，增强了未来任务的学习。

Jan, 2019

本文介绍了一种新的变分推理方案，用于建模高斯过程的动态系统的转换函数。该方法可以消除潜在系统状态和转移函数之间的因式分解并更准确地预测转移函数。

Jun, 2019

提出了两种可扩展的高斯过程回归方法，通过应用变分推断和直接处理后验预测分布来改善模型预测不确定性。

Oct, 2019

本研究提出了一种名为VAR-GPs的方法，采用贝叶斯定理作为框架，在通过观察数据在线连续学习过程中解决后验更新的问题，并使用稀疏诱导点逼近可扩展后验概率分布，从而避免了灾难性遗忘的问题。经过实验验证，在现代连续学习基准测试中，VAR-GPs表现优异，证明了作者们建模选择的功效。

Jun, 2020

本文提出了 FO0-VB 算法来近似在线贝叶斯更新，以应对数据分布的非稳态性，以及在不使用外部存储器且只依靠现有体系结构的情况下，实现对不确定或未明确定义的任务边界的持续学习的优化，该方法在任务不可知场景下表现优异。

Oct, 2020

本文我们提出了SigGPDE，它是一个新的可扩展的稀疏变分推理框架，用于处理序列数据上的高斯过程。我们的贡献有两个方面：首先，我们构造了诱导变量来支撑稀疏近似，使得得到的证据下限ELBO不需要任何矩阵求逆；其次，我们展示了GP签名核的梯度是一个双曲型偏微分方程（PDE）的解，这一理论洞见使我们能够构建一个有效的反向传播算法来优化ELBO。通过展示SigGPDE相对于现有方法的显着计算收益，同时在多达1百万个多元时间序列的大型数据集上实现最先进的分类任务性能。

May, 2021

本研究提出了一种利用双重稀疏变分高斯过程方法，在连续和主动学习等数据有限的情况下，减少使用后续数据产生的误差，从而提高学习的准确性，并在涉及贝叶斯优化，主动学习和连续学习的几个应用程序中证明了其有效性。

Jun, 2023

连续学习方法通过顺序贝叶斯推断模型对神经网络进行优化，使得神经网络对新任务的适应性更好、拥有更灵活的变分分布和更有效的正则化，从而实现更好的预测准确性。

Dec, 2023