通过引入一种新的层级先验,实现了对诱导变量集合的稀疏约束,使得高斯过程法在通过基于小批量学习实现超大规模推断时具备更好的效率。
Nov, 2020
本文介绍了一种新的稀疏变分逼近高斯过程的解释,使用感应点可以比以前的方法更具有可扩展性。它基于将高斯过程分解为两个独立过程的和: 一个由有限势基感应点并跨越另一个捕获其余变化。我们表示,这种表达重新获得了现有的逼近值,并且同时允许获得较紧的较低边界和新的随机变分推理算法。我们展示了这些算法的效率,从标准回归到使用(深入)卷积高斯过程的多类分类,并在 CIFAR-10 中报告了完全基于 GP 的模型的最新结果。
Oct, 2019
本文提出了一种将高斯过程映射到基于 B 样条基函数的一组函数上的新的跨域变分高斯过程。该方法的关键优势在于 B 样条基函数具有紧凑支持,可以采用稀疏线性代数来加速矩阵运算并显着减少内存占用,从而实现高效地对快速变化的空间现象进行建模,涉及数万个感应变量。
Apr, 2023
本文提出了结合 inducing points 和 state-space formulation 的方法,并给出了相应的 varitational parameterisation 公式,该方法在深度高斯过程模型中的应用效果明显。
Jan, 2020
这篇研究论文介绍了一种在线学习高斯过程(Gaussian Processes)的方法,其中采用了有效的变分方法并使用了稀疏技术来降低观测数据的数量,并对 inducing points 进行自适应添加,从而提高算法的性能。
Jul, 2021
提出一种基于稀疏高斯过程的框架,使用期望传播直接逼近一般高斯过程的似然函数,既包括了 SPGP 和 VSGP 用于回归的特殊情况,又兼顾了在线处理数据的能力,可用于解决分类问题。在基准数据集上的实验表明,该框架在小样本规模下,不仅能够最大程度地逼近非稀疏 GP 解,而且可降低分类错误率。
Mar, 2012
本论文使用了基于随机推理网络的镜像梯度下降算法来实现高斯过程模型的推理,该算法针对大规模数据的情况具有可扩展性和易实现性,并且在实验中取得了与现有稀疏变分高斯过程方法相当甚至更好的表现。
May, 2019
提出了两种可扩展的高斯过程回归方法,通过应用变分推断和直接处理后验预测分布来改善模型预测不确定性。
本论文介绍了一种基于稀疏高斯过程回归和潜变量模型的重新参数化变分推断方法,可以有效解决大规模数据集下高斯过程模型的可扩展性问题,并在飞行数据和 MNIST 数据集上证明了其优越性。
Feb, 2014
研究了高斯过程深度生成模型中的氐变量的稀疏高斯过程近似的问题,并提出了一种基于部分推理网络的稀疏高斯过程变分自编码器,从而使得稀疏高斯过程能处理多维度的时空数据中缺失的数据,并提高模型的计算效率。
Oct, 2020