本篇论文研究了在多任务高斯过程模型中如何持续不断地学习处理顺序输入输出观测值的问题，提出了基于在线贝叶斯推断先验 —— 后验递归的方法，并结合诱导输入的稀疏近似引入了变分推断。通过该方法得到了可行的无限条件下界，并在自然情况下引入两个新的 KL 散度。本研究方法的关键技术是基于条件 GP 先验的递归重构，实现了对迄今为止学习到的变分参数的条件 GP 先验的递归重构。同时，该方法适用于许多类型的连续或离散的顺序观测，并且适用于可能出现潜在的多通道或异构观测值的场景。广泛的实验证明该方法具有可扩展性，表现可靠，并且对合成和真实世界的大量数据集的误差传播具有鲁棒性。

Oct, 2019

本研究提出了一种名为 VAR-GPs 的方法，采用贝叶斯定理作为框架，在通过观察数据在线连续学习过程中解决后验更新的问题，并使用稀疏诱导点逼近可扩展后验概率分布，从而避免了灾难性遗忘的问题。经过实验验证，在现代连续学习基准测试中，VAR-GPs 表现优异，证明了作者们建模选择的功效。

Jun, 2020

本文介绍了一种基于双随机变分推断的方法，用于深度高斯过程模型（Deep Gaussian processes）的推断。该方法能够有效地处理数百个到十亿个数据点的分类和回归任务，验证了其推断模型的实用性。

May, 2017

通过使用双参数化来给每个数据示例分配双参数，以提高计算效率，使用自然梯度下降加速推理并为超参数学习提供更紧的证据下限，提高了稀疏变分高斯过程方法的计算效率。

Nov, 2021

本文提出了结合 inducing points 和 state-space formulation 的方法，并给出了相应的 varitational parameterisation 公式，该方法在深度高斯过程模型中的应用效果明显。

Jan, 2020

本文我们提出了 SigGPDE，它是一个新的可扩展的稀疏变分推理框架，用于处理序列数据上的高斯过程。我们的贡献有两个方面：首先，我们构造了诱导变量来支撑稀疏近似，使得得到的证据下限 ELBO 不需要任何矩阵求逆；其次，我们展示了 GP 签名核的梯度是一个双曲型偏微分方程（PDE）的解，这一理论洞见使我们能够构建一个有效的反向传播算法来优化 ELBO。通过展示 SigGPDE 相对于现有方法的显着计算收益，同时在多达 1 百万个多元时间序列的大型数据集上实现最先进的分类任务性能。

May, 2021

通过测量数据，我们提出了一种基于贝叶斯预测误差边界的高斯过程回归模型，证明了其具有逐渐减小的跟踪误差并实现了逐渐消失的跟踪误差，有效地解决了复杂技术系统中的问题，并在多个模拟中进行了验证。

Jul, 2023

本论文使用了基于随机推理网络的镜像梯度下降算法来实现高斯过程模型的推理，该算法针对大规模数据的情况具有可扩展性和易实现性，并且在实验中取得了与现有稀疏变分高斯过程方法相当甚至更好的表现。

May, 2019

使用贝叶斯方法和高斯过程，结合符号核、稀疏变分方法等技术对序列数据进行学习，可以使得不同长度的序列可比较且利用奇异分析的强大理论结果；我们还介绍了一种使用引导张量处理未能有利的序列结构方法，将该方法和 LSTMs、GRUs 等结合起来，以建立利用优势的大型模型，并在多元时间序列分类数据集上进行基准测试。

Jun, 2019

该论文介绍了利用稀疏高斯过程进行非线性状态空间建模的高效变分贝叶斯学习的过程，以及后续的可处理的非线性动态系统建模、模型容量和计算成本的平衡、避免过度拟合以及使用混合推理方法（变分贝叶斯和顺序蒙特卡洛）进行主算法等。

Jun, 2014