本文回顾和分析了当前流行的可扩展高斯过程回归模型的局部和全局逼近方法，主要包括稀疏逼近、混合专家模型和产品专家模型，并探讨了这些模型在数据规模大的情况下的应用前景。

Jul, 2018

研究了一种加速多输出高斯过程推理和学习的方法，利用数据的充分统计量实现在正交基中的线性缩放，从而实现在实践中线性缩放，同时不会牺牲重要的表现力或需要近似。

Nov, 2019

本研究介绍了一种新的结构化核插值（SKI）框架，该框架推广和统一了可扩展高斯过程的引入点方法。SKI 方法通过核插值产生核近似值以进行快速计算，SK 始终讨论了引入点方法的质量如何依赖于插入（插补）点的数量，插值策略和 GP 协方差核。使用 SKI，我们介绍了一种名为 KISS-GP 的本地三次核插值方法，该方法与引入点替代方法相比，更具可伸缩性，并且 自然地启用 Kronecker 和 Toeplitz 代数，无需任何网格数据，并且可用于快速和表达式内核学习，对于 GP 推断，KISS-GP 需要 O（n）时间和存储成本。我们评估了 KISS-GP 的核矩阵近似，核学习，和自然声音建模。

Mar, 2015

通过基于交替投影的迭代算法，我们提出了一种能够有效进行小批量处理的方法，在解决大规模高斯过程训练的实际挑战中，获得了线性收敛并具有良好的鲁棒性，实验证明在大规模基准数据集上，相比于共轭梯度方法，我们的方法加速了 2 倍到 27 倍。

Oct, 2023

该论文研究了高斯过程模型的能力和局限性，提出了一种具有可扩展性和统计效率的推理方法，探索了灵活的内核和用于学习超参数的客观函数。通过实验结果表明，这种方法在标准 MNIST 数据集上的性能优于所有之前报告的 GP 方法，并在 MNIST8M 数据集上突破了 1％的误差率，同时展示了它在分类问题中的可扩展性。总的来说，该方法在内核方法和 GP 模型方面取得了重大突破，缩小了深度学习方法和内核机器之间的差距。

Oct, 2016

本文提出了一种可扩展的方法，利用多 GPU 并行化和线性共轭梯度等方法，仅通过矩阵乘法就可以访问核矩阵，将核矩阵乘法进行分区和分配，演示了可以在不到 2 小时内对超过一百万个点进行精确的高斯过程训练，并在规模上进行了比较，表现出显著的性能提升。

Mar, 2019

本研究提出了一种基于最近邻预测的高斯过程回归算法，相比于现有算法，该算法具有更快的计算速度和更准确的预测结果，并且其对数据集大小和样本误差的鲁棒性更强。

Jun, 2023

本文提出一种基于 Lanczos 算法的方法 LOVE（LanczOs Variance Estimates）来解决高斯过程回归的计算瓶颈，大大提高了协方差的计算效率和采样速度。

Mar, 2018

本论文使用了基于随机推理网络的镜像梯度下降算法来实现高斯过程模型的推理，该算法针对大规模数据的情况具有可扩展性和易实现性，并且在实验中取得了与现有稀疏变分高斯过程方法相当甚至更好的表现。

May, 2019

利用张量列车分解为变分参数的高斯过程建模方法，实现具有数十亿个输入点培训和端到端训练的深度神经网络和高斯过程回归 / 分类器的最新结果优化。

Oct, 2017