带收缩先验的组合稀疏高斯过程学习
提出一种基于稀疏高斯过程的框架,使用期望传播直接逼近一般高斯过程的似然函数,既包括了 SPGP 和 VSGP 用于回归的特殊情况,又兼顾了在线处理数据的能力,可用于解决分类问题。在基准数据集上的实验表明,该框架在小样本规模下,不仅能够最大程度地逼近非稀疏 GP 解,而且可降低分类错误率。
Mar, 2012
本研究提出了一种新的贝叶斯方法——EigenGP,它在稀疏有限模型中学习基础词典元素——高斯过程的特征函数和先验精度。通过最大化模型边缘似然函数,从数据中学习基础词典元素和相应的先验精度,以及所有其他超参数。与其他稀疏贝叶斯有限模型不同,本方法中的特征函数作为核函数的有限线性组合存在于再生核希尔伯特空间中。实验结果表明EigenGP具有比其他稀疏高斯过程方法及相关向量机更优秀的预测性能。
Jan, 2014
本文针对大数据的稀疏高斯过程模型的一类不同于现有方法的低秩GP逼近模型展开研究,提出了基于稀疏频谱GP模型的随机变分贝叶斯框架,该框架结合贝叶斯方法处理频率谱避免过拟合,利用本地数据提高预测性能,并利用参数化技巧使得所得到的随机梯度具有线性结构,从而提高了稀疏GP模型的性能。实验结果表明,我们的模型优于现有的SGP模型的实现方法。
Nov, 2016
本文提出一种新的变分高斯过程模型,将均值函数和协方差函数在再生核希尔伯特空间中表示,可通过随机梯度上升来求解,时间和空间复杂度仅与均值函数参数数量成线性关系,适用于大规模高斯过程模型和回归任务的求解。
Nov, 2017
该论文提出了一种基于变分贝叶斯核选择算法的稀疏高斯过程回归模型,通过将核表示成一个随机变量,并利用其先验和后验信念来学习其不确定性,进而避免避免过度自信,通过随机梯度上升的方法来迭代地最大化变分下界以提高精度,该方法适用于大规模数据集。
Dec, 2019
研究了高斯过程深度生成模型中的氐变量的稀疏高斯过程近似的问题,并提出了一种基于部分推理网络的稀疏高斯过程变分自编码器,从而使得稀疏高斯过程能处理多维度的时空数据中缺失的数据,并提高模型的计算效率。
Oct, 2020
本文我们提出了SigGPDE,它是一个新的可扩展的稀疏变分推理框架,用于处理序列数据上的高斯过程。我们的贡献有两个方面:首先,我们构造了诱导变量来支撑稀疏近似,使得得到的证据下限ELBO不需要任何矩阵求逆;其次,我们展示了GP签名核的梯度是一个双曲型偏微分方程(PDE)的解,这一理论洞见使我们能够构建一个有效的反向传播算法来优化ELBO。通过展示SigGPDE相对于现有方法的显着计算收益,同时在多达1百万个多元时间序列的大型数据集上实现最先进的分类任务性能。
May, 2021
研究稀疏逼近方法在进行核方法和高斯过程(GPs)的大规模数据方面的连接,着重于Nyström方法和Sparse Variational Gaussian Processes (SVGP)。在回归问题的上下文中,提供一种RKHS解释SVGP逼近,并且展示了其Evidence Lower Bound 包含了Nyström逼近的目标函数,揭示了两种方法之间的代数等价性的来源。此外,研究了SVGP的最近建立的收敛结果以及它们与Nyström方法的逼近质量之间的关系。
Jun, 2021