Jun, 2018

卷积核深高斯过程

PDF
TL;DR本论文针对深度高斯过程在计算机视觉领域应用时存在的挑战（例如卷积结构），提出了一种基于卷积核的卷积 DGP 模型（CDGP）来解决该问题，并在多类图像分类任务中表现出优越性能。
deep gaussian processesconvolutional dgp modelscomputer vision taskspredictive uncertaintyimage classification
发现论文，激发创造
  • 具有深度卷积高斯过程的贝叶斯图像分类

    本研究提出了一种翻译不敏感的卷积核，并将高斯过程重新制定为多输出高斯过程，以实现深度卷积高斯过程。实验证明，与使用 dropout 的贝叶斯深度学习方法相比，我们的全贝叶斯方法在不确定性和边际似然估计方面的性能有所提高。

    Feb, 2019

  • 深度卷积高斯过程

    本论文提出了基于卷积结构的深度高斯过程模型，是一种基于贝叶斯原则的图像分类方法，能够有效的利用局部特征，改善了传统的高斯过程方法在 MNIST 和 CIFAR-10 数据集上的分类准确性，尤其是 CIFAR-10 数据集上准确率提高了超过 10 个百分点。

    Oct, 2018

  • 可解释的深高斯过程与矩

    提出了一种可解释的 DGPs 模型，通过计算精确矩来近似 DGPs，确定了某些 DGP 分布的重尾性质，并识别了 DGP 的表达能力参数，发现了 DGP 组合的非本地和非平稳相关性，并提供了推导二、三或无限层的有效核的通用方法。

    May, 2019

  • 深度卷积网络作为浅层高斯过程

    通过适当的神经网络权重和偏差的先验，证明（残差）卷积神经网络的输出在无限数量的卷积滤波器的极限下是高斯过程（GP），扩展了密集网络的类似结果。可以精确地计算 CNN 的等效核，不同于 “深度核” 只有少量的参数：只有原始 CNN 的超参数。与每层只有一个滤波器的原始 CNN 相比，对成对图像评估内核的成本类似于一次正向传递，这个内核等效于 32 层 ResNet，在 MNIST 上获得了 0.84％的分类错误，是具有可比数量的参数的 GPs 的新记录。

    Aug, 2018

  • 卷积高斯过程

    介绍了在 Gaussian 过程中引入卷积结构的方法，并构建了适用于卷积核的跨域诱导点逼近，利用较快但准确的后验推理获得卷积核的泛化利益，应用于多项研究中，其中通过边缘似然可进一步提高性能。

    Sep, 2017

  • 近似推断将深度网络转化为高斯过程

    本文研究神经网络和高斯过程之间的关系，证明了贝叶斯神经网络的高斯后验近似等同于高斯过程的后验。在训练神经网络时，利用高斯过程的边缘似然函数来调整神经网络的超参数，得到的核函数是神经切向核。我们的工作旨在促进进一步将神经网络和高斯过程在实际应用中相结合的研究。

    Jun, 2019

  • 图卷积高斯过程

    提出了一种新的贝叶斯非参数方法，以在非欧几里德域上学习平移不变的关系。 该方法可应用于机器学习问题，其中输入观测值是具有普通图形域的函数。 并将图卷积高斯过程应用于图像和三角形网格等领域，表明了其多功能性和有效性，与现有方法相比具有优势，尽管是相对简单的模型。

    May, 2019

  • 跨领域深度高斯过程

    本文提出了扩展 Inter-domain Gaussian processes 的 Inter-domain Deep Gaussian Processes 方法，基于现有的近似推理方法使用 inter-domain features 实现简单可扩展的近似推理。我们对各种回归任务的表现进行了评估，并展示了它在具有全局结构和高度不稳定性的大规模实际数据集上优于浅层 Inter-domain Gaussian processes 和传统深度高斯过程。

    Nov, 2020

  • 深高斯过程的双随机变分推断

    本文介绍了一种基于双随机变分推断的方法，用于深度高斯过程模型（Deep Gaussian processes）的推断。该方法能够有效地处理数百个到十亿个数据点的分类和回归任务，验证了其推断模型的实用性。

    May, 2017

  • 通过非线性复发系统表征深度高斯过程

    通过研究 Deep Gaussian Processes 对应的非线性动态系统，分析了其学习能力随层数增加而显著降低的问题，提供了紧密的界限和动态系统的收敛速度，并将此发现证明实验结果。

    Oct, 2020