深度结构高斯过程混合模型

Oct, 2019

Deep Structured Mixtures of Gaussian Processes

Martin Trapp, Robert Peharz, Franz Pernkopf, Carl E. Rasmussen

TL;DR本文提出了一种称为深层结构高斯过程混合专家的随机过程模型，该模型不仅可以进行确切的后验推断，而且具有吸引人的计算和内存成本，并且在作为高斯过程近似时可以比以前的近似方法更一致地捕捉预测不确定性。在各种实验中，我们展示了这种方法的低近似误差和竞争优势。

Abstract

gaussian processes (GPs) are powerful non-parametric bayesian regression models that allow exact posterior inference, but exhibit high computational and memory costs. In order to improve scalability of GPs, appro

gaussian processes non-parametric bayesian regression approximate posterior inference local gp experts deep structured mixtures

发现论文，激发创造

深度高斯过程中的组合不确定性

本文介绍了高斯过程和深度高斯过程，并探讨了用于近似贝叶斯推断的不同变分推断模型及其优点和局限性。

Sep, 2019

使用和积网络学习深层高斯过程专家混合模型

本文介绍通过将高斯过程嵌入可计算的和积网络中，实现灵活的先验函数分布，从而实现计算和内存高效、容易实施后验推理的概率回归模型。

Sep, 2018

深高斯过程的双随机变分推断

本文介绍了一种基于双随机变分推断的方法，用于深度高斯过程模型（Deep Gaussian processes）的推断。该方法能够有效地处理数百个到十亿个数据点的分类和回归任务，验证了其推断模型的实用性。

May, 2017

深高斯过程

本文介绍了深度高斯过程模型，该模型可用于稀少数据的拟合，以及通过贝叶斯方法进行模型选择。

Nov, 2012

基于核棒法的高斯过程专家混合模型

提出了一个基于核棍强过程的高斯过程专家混合模型，具有直观吸引力和改进的预测性能，可通过基于切片采样的后验计算器进行实际操作。

Apr, 2023

大规模高斯过程回归的分层专家混合模型

我们提出了一个实用且可扩展的高斯过程模型，用于大规模非线性概率回归。我们的专家混合模型在概念上简单，并以分层方式重新组合计算，以对整个高斯过程进行近似。通过封闭形式和分布式计算，可以实现高效的大规模并行化，同时保持内存消耗较小。因此，我们的模型具有处理任意大小数据集的潜力，而无需明确的稀疏逼近。我们提供了强有力的实验证据，表明我们的模型可以应用于超过数百万个数据的大数据集。因此，我们的模型有可能为一般的大规模高斯过程研究打下基础。

Dec, 2014

可解释的深高斯过程与矩

提出了一种可解释的 DGPs 模型，通过计算精确矩来近似 DGPs，确定了某些 DGP 分布的重尾性质，并识别了 DGP 的表达能力参数，发现了 DGP 组合的非本地和非平稳相关性，并提供了推导二、三或无限层的有效核的通用方法。

May, 2019

跨领域深度高斯过程

本文提出了扩展 Inter-domain Gaussian processes 的 Inter-domain Deep Gaussian Processes 方法，基于现有的近似推理方法使用 inter-domain features 实现简单可扩展的近似推理。我们对各种回归任务的表现进行了评估，并展示了它在具有全局结构和高度不稳定性的大规模实际数据集上优于浅层 Inter-domain Gaussian processes 和传统深度高斯过程。

Nov, 2020

深高斯过程的随机特征扩展

本文提出使用随机变分推断基于随机特征扩展来训练 Deep Gaussian Process 模型的方法，该方法在多个数据集上均具有可扩展性和良好的性能，实现了量化不确定性的精确估计。

Oct, 2016

使用近似期望传播进行回归的深高斯过程

本文研发了一种新的近似贝叶斯学习方案，使深高斯过程能够应用于中大规模回归问题，该方法通过近似期望传播程序和概率反向传播算法实现，对于 11 个现实世界数据集的非线性回归评估表明，它始终优于 GP 回归，几乎总是优于 Bayesian 神经网络的基于状态和采样的近似推理方法。

Feb, 2016