通过引入多级边际似然优化和温启动，我们提出了一种迭代高斯过程模型，可以通过重复使用线性系统求解器的解作为下一步的初始化值，在计算不变性的情况下有效地提高回归任务的计算速度。

May, 2024

通过基于交替投影的迭代算法，我们提出了一种能够有效进行小批量处理的方法，在解决大规模高斯过程训练的实际挑战中，获得了线性收敛并具有良好的鲁棒性，实验证明在大规模基准数据集上，相比于共轭梯度方法，我们的方法加速了 2 倍到 27 倍。

Oct, 2023

该论文基于最新的机器学习工具，提供了一种定制的迭代求解器，结合代数多重网格方法和 proper orthogonal decomposition（POD-2G），能够在任意所需精度下，求解大规模参数化问题中的线性方程系统。

Jul, 2022

本文提出了一种概率框架，可用于迭代解决具有正定 $B$ 的无约束线性问题 $Bx = b$，旨在用 $B$ 的逆的元素上的高斯后验信念替换现有方法返回的点估计，以估计误差，其中包括基于准 - 牛顿优化算法族的最近的概率解释被扩展，结合共轭梯度算法的性质，导致与共轭梯度相比成本开销非常有限的不确定性校准方法，提供了准 - 牛顿和共轭梯度算法的自包含新解释，并为新的非线性优化方法提供了基础。

Feb, 2014

通过研究共轭梯度法的容差、预处理器秩和 Lanczos 分解秩，挖掘了基于迭代方法的一般性高斯过程学习中数值不稳定性和测试似然度差异的问题，并在使用小的共轭梯度法容差（ε≤0.01）和大的分解大小（r≥5000）以及 L-BFGS-B 优化器时，提供了简单的纠正建议，同时减少梯度更新次数达到收敛。

Dec, 2021

本论文介绍了通过使用随机梯度算法来近似解决高斯过程中线性系统求解的限制，并利用影响收敛的隐含偏差的谱特点来解释结果，最终在大规模数据集上取得了最先进的预测性能和不确定性估计。

Jun, 2023

本研究介绍了一种新的算法和理论视角，通过预处理来优化计算 Gaussian 过程中超参数的对数行列式及其导数，证明了其可行性，并在大规模基准问题上进行了实证验证，取得了杰出的效果。

Jul, 2021

本文提出一种无需完全核矩阵的矩阵分解即可计算的高斯过程回归模型的对数边际似然的下界。我们通过最大化我们的下界来学习模型参数的近似最大似然方法保留了许多稀疏变分方法的优点，同时减少了参数学习中引入的偏差。我们的方法通过对出现在对数边际似然中的对数行列式项进行更仔细的分析，以及使用共轭梯度法导出涉及二次形式的项的紧凑下界，从而在统一依赖下界最大化的方法和基于共轭梯度的迭代方法的训练高斯过程方面迈出了一步。实验结果表明，相对于其他基于共轭梯度的方法，在相当的训练时间内，我们的模型具有更好的预测性能。

Feb, 2021

高斯过程回归的深度学习方法采用了特定的随机对偶梯度下降算法，通过优化和核技术的结合，取得了与图神经网络相媲美的性能。

Oct, 2023

本文提出了一种使用快速矩阵向量乘法的迭代求解方法，结合基于设阵的 Cholesky 预处理，使得高斯过程能够处理函数值与导数，从而实现了基于贝叶斯优化的核学习以及维度约减，该方法能够适用于高维度和较大评估预算。

Oct, 2018