Feb, 2020

高斯过程后验函数的高效采样

PDF
TL;DR本文提出了一种将高斯过程进行分解，以便通过将先验与数据分离来进行可扩展抽样的方法，同时结合稀疏逼近在训练和测试时间都能够达到可扩展性的一般性方法。实验证明分解后的样本轨迹可以以较低的代价准确地表示高斯过程后验分布。
gaussian processesmonte carlo methodsposterior samplingscalabilitysparse approximations
发现论文，激发创造
  • 使用随机梯度下降从高斯过程后验分布中进行采样

    本论文介绍了通过使用随机梯度算法来近似解决高斯过程中线性系统求解的限制，并利用影响收敛的隐含偏差的谱特点来解释结果，最终在大规模数据集上取得了最先进的预测性能和不确定性估计。

    Jun, 2023

  • 高斯过程的路径条件化

    研究高斯过程的路径条件下的条件概率，给出了一类高效（具有多种应用背景，例如全局优化和强化学习）的近似方法。

    Nov, 2020

  • 贝叶斯回归和分类高斯过程模型的蒙特卡罗实现

    本文提出了使用高斯过程模型来进行非参数回归，分类等任务，通过使用马尔科夫链方法对高斯过程的协方差函数的超参数进行采样，可以发现数据的高级特性并实现预测响应所需输入的相关性。

    Jan, 1997

  • 变分稀疏高斯过程 MCMC

    本文研究了在数据量大、似然不为高斯分布和协方差函数参数后验估计方面如何高效地计算，提出了一种稀疏的变分近似方法和混合蒙特卡洛采样策略，实现了同时估计函数值和协方差参数。

    Jun, 2015

  • 高斯过程的伪边缘贝叶斯推断

    本文提出了一种基于伪边缘法的马尔可夫链蒙特卡罗通用策略，有效地解决了使用高斯过程先验的精确贝叶斯推理和模型参数不确定性导致的数据预测问题。此外，Monte Carlo 积分可用于预测中的所有模型参数，这在高斯过程的层次统计模型中具有重要意义，并与最先进的概率分类器进行了广泛的比较。

    Oct, 2013

  • 高斯过程潜变量模型的连续采样

    本文研究在数据的概率模型中推断一个潜在函数的问题，并探究了基于马尔可夫链蒙特卡罗采样的高效计算方法在大型数据集上的可行性，提出了一种近似方法，使潜在变量和相关参数的顺序采样能够有效地处理增长数据设置，证明了其在无序、非顺序采样下不可行的情况下的强大性能。

    Jul, 2018

  • 参数高斯过程回归器

    提出了两种可扩展的高斯过程回归方法，通过应用变分推断和直接处理后验预测分布来改善模型预测不确定性。

    Oct, 2019

  • 高维回归中的高斯混合尺度先验快速抽样

    文中提出了一种高效的从结构化多元高斯分布中采样的方法，该分布经常作为分配条件高斯先验的模型参数的条件后验概率。所提出的算法仅需要矩阵操作（如矩阵乘法和线性系统解），并展示了与现有算法相比，算法的计算复杂度随着维度的增加而线性增长。该算法应该广泛适用于在高维模型参数上使用高斯比例混合先验的设置中。通过在具有马蹄先验的高维回归设置中进行后验采样，我们提供了一个说明。

    Jun, 2015

  • 通过高斯过程逼近合并 MCMC 子后验分布

    本文提出了一种基于高斯过程近似的三种方法：基于哈密顿蒙特卡罗算法、基于真实后验期望的重要性抽样方法和利用高斯过程分布重新赋权的替代重要性抽样方法，以解决大数据下的马尔科夫链蒙特卡罗算法不适合的问题。

    May, 2016

  • 快速可扩展的高斯过程建模及其在天文时间序列中的应用

    本文提出了一种用于高斯过程建模的新方法，其中计算要求随着数据集的大小呈线性比例增长，与天文时间序列数据的应用作为例子，演示了此方法可用于概率推断星体旋转周期、星震振荡谱和凌星行星参数等问题，具有快速、可解释、可适用于天文数据分析和其他领域等优点。

    Mar, 2017