Oct, 2023

深度转换高斯过程

PDF
TL;DR通过变换样本中的联合分布，Deep Transformed Gaussian Processes（DTGPs）构建了多层模型，每一层都是转换高斯过程，增加了模型的灵活性和可扩展性。通过使用变分推断来近似计算，该方法扩展了 DSVI 推断算法，实验证明在多个回归数据集上取得了良好的性能。
transformed gaussian processesdeep transformed gaussian processesflexibilityvariational inferenceregression datasets
发现论文，激发创造
  • 深高斯过程的双随机变分推断

    本文介绍了一种基于双随机变分推断的方法，用于深度高斯过程模型（Deep Gaussian processes）的推断。该方法能够有效地处理数百个到十亿个数据点的分类和回归任务，验证了其推断模型的实用性。

    May, 2017

  • 浅层和深层高斯过程

    该研究提出了一种新的方法，称为 Thin and Deep GP (TDGP)，它通过定义原始输入数据的局部线性变换来保持潜在嵌入的概念，并保留核函数的长度尺度的解释性。与先前的方法不同，TDGP 引入的流形可避免路径学习中的特殊病理问题，并且在学习低维表示方面表现出色。在理论和实验结果中证明了 TDGP 在发现输入数据的低维流形、增加层数时的良好性能以及在标准基准数据集上的表现。

    Oct, 2023

  • 深高斯过程的随机特征扩展

    本文提出使用随机变分推断基于随机特征扩展来训练 Deep Gaussian Process 模型的方法，该方法在多个数据集上均具有可扩展性和良好的性能，实现了量化不确定性的精确估计。

    Oct, 2016

  • 深高斯过程

    本文介绍了深度高斯过程模型，该模型可用于稀少数据的拟合，以及通过贝叶斯方法进行模型选择。

    Nov, 2012

  • 使用近似期望传播进行回归的深高斯过程

    本文研发了一种新的近似贝叶斯学习方案，使深高斯过程能够应用于中大规模回归问题，该方法通过近似期望传播程序和概率反向传播算法实现，对于 11 个现实世界数据集的非线性回归评估表明，它始终优于 GP 回归，几乎总是优于 Bayesian 神经网络的基于状态和采样的近似推理方法。

    Feb, 2016

  • 深核过程

    本文介绍了深度核过程的概念，探究了深度高斯过程、贝叶斯神经网络以及无限贝叶斯神经网络等模型与深度核过程的等价性，并提出了便于求解的深度逆 Wishart 过程，并通过 Gram 矩阵进行了基于感应点的变分推断，取得了优于标准全连接基线的性能表现。

    Oct, 2020

  • 可解释的深高斯过程与矩

    提出了一种可解释的 DGPs 模型，通过计算精确矩来近似 DGPs，确定了某些 DGP 分布的重尾性质，并识别了 DGP 的表达能力参数，发现了 DGP 组合的非本地和非平稳相关性，并提供了推导二、三或无限层的有效核的通用方法。

    May, 2019

  • 使用随机梯度哈密顿蒙特卡罗推断深高斯过程

    本研究使用随机梯度哈密尔顿蒙特卡洛方法对深层高斯过程模型的非高斯后验分布抽样，提供了一种新的推断方法，成为 Deep Gaussian Processes 领域新的最优模型。

    Jun, 2018

  • 跨领域深度高斯过程

    本文提出了扩展 Inter-domain Gaussian processes 的 Inter-domain Deep Gaussian Processes 方法，基于现有的近似推理方法使用 inter-domain features 实现简单可扩展的近似推理。我们对各种回归任务的表现进行了评估，并展示了它在具有全局结构和高度不稳定性的大规模实际数据集上优于浅层 Inter-domain Gaussian processes 和传统深度高斯过程。

    Nov, 2020

  • 卷积核深高斯过程

    本论文针对深度高斯过程在计算机视觉领域应用时存在的挑战（例如卷积结构），提出了一种基于卷积核的卷积 DGP 模型（CDGP）来解决该问题，并在多类图像分类任务中表现出优越性能。

    Jun, 2018