提出一种基于稀疏高斯过程的框架，使用期望传播直接逼近一般高斯过程的似然函数，既包括了 SPGP 和 VSGP 用于回归的特殊情况，又兼顾了在线处理数据的能力，可用于解决分类问题。在基准数据集上的实验表明，该框架在小样本规模下，不仅能够最大程度地逼近非稀疏 GP 解，而且可降低分类错误率。

Mar, 2012

本文介绍了深度高斯过程模型，该模型可用于稀少数据的拟合，以及通过贝叶斯方法进行模型选择。

Nov, 2012

我们提出了一个实用且可扩展的高斯过程模型，用于大规模非线性概率回归。我们的专家混合模型在概念上简单，并以分层方式重新组合计算，以对整个高斯过程进行近似。通过封闭形式和分布式计算，可以实现高效的大规模并行化，同时保持内存消耗较小。因此，我们的模型具有处理任意大小数据集的潜力，而无需明确的稀疏逼近。我们提供了强有力的实验证据，表明我们的模型可以应用于超过数百万个数据的大数据集。因此，我们的模型有可能为一般的大规模高斯过程研究打下基础。

Dec, 2014

利用张量列车分解为变分参数的高斯过程建模方法，实现具有数十亿个输入点培训和端到端训练的深度神经网络和高斯过程回归/分类器的最新结果优化。

Oct, 2017

本文回顾和分析了当前流行的可扩展高斯过程回归模型的局部和全局逼近方法，主要包括稀疏逼近、混合专家模型和产品专家模型，并探讨了这些模型在数据规模大的情况下的应用前景。

Jul, 2018

本论文使用了基于随机推理网络的镜像梯度下降算法来实现高斯过程模型的推理，该算法针对大规模数据的情况具有可扩展性和易实现性，并且在实验中取得了与现有稀疏变分高斯过程方法相当甚至更好的表现。

May, 2019

本文研究神经网络和高斯过程之间的关系，证明了贝叶斯神经网络的高斯后验近似等同于高斯过程的后验。在训练神经网络时，利用高斯过程的边缘似然函数来调整神经网络的超参数，得到的核函数是神经切向核。我们的工作旨在促进进一步将神经网络和高斯过程在实际应用中相结合的研究。

Jun, 2019

本文提出了一种称为深层结构高斯过程混合专家的随机过程模型，该模型不仅可以进行确切的后验推断，而且具有吸引人的计算和内存成本，并且在作为高斯过程近似时可以比以前的近似方法更一致地捕捉预测不确定性。在各种实验中，我们展示了这种方法的低近似误差和竞争优势。

Oct, 2019

该论文提出了一个适用于大规模问题的高斯过程的数学和软件框架，该框架结合了跨域近似和多输出，能够简化使用GPs创建深层模型的过程。

Mar, 2020

通过导出一种新的 Gibbs 采样的全部条件概率，通过边际化多个随机变量来快速获得后验分布，我们提出了一种可用于大规模 sum-product networks 的贝叶斯学习方法，同时还提出了一种超参数调优方法，通过在大规模 sum-product networks 中平衡先验分布的多样性和优化效率，改进了学习时间复杂度，并在超过 20 个数据集的数值实验中展示出了十倍到一百倍以上的计算速度和优秀的预测性能。

Jun, 2024