本论文针对深度高斯过程在计算机视觉领域应用时存在的挑战(例如卷积结构),提出了一种基于卷积核的卷积 DGP 模型(CDGP)来解决该问题,并在多类图像分类任务中表现出优越性能。
Jun, 2018
介绍了在 Gaussian 过程中引入卷积结构的方法,并构建了适用于卷积核的跨域诱导点逼近,利用较快但准确的后验推理获得卷积核的泛化利益,应用于多项研究中,其中通过边缘似然可进一步提高性能。
Sep, 2017
本研究提出了一种翻译不敏感的卷积核,并将高斯过程重新制定为多输出高斯过程,以实现深度卷积高斯过程。实验证明,与使用 dropout 的贝叶斯深度学习方法相比,我们的全贝叶斯方法在不确定性和边际似然估计方面的性能有所提高。
Feb, 2019
通过适当的神经网络权重和偏差的先验,证明(残差)卷积神经网络的输出在无限数量的卷积滤波器的极限下是高斯过程(GP),扩展了密集网络的类似结果。可以精确地计算 CNN 的等效核,不同于 “深度核” 只有少量的参数:只有原始 CNN 的超参数。与每层只有一个滤波器的原始 CNN 相比,对成对图像评估内核的成本类似于一次正向传递,这个内核等效于 32 层 ResNet,在 MNIST 上获得了 0.84%的分类错误,是具有可比数量的参数的 GPs 的新记录。
Aug, 2018
本文介绍了深度高斯过程模型,该模型可用于稀少数据的拟合,以及通过贝叶斯方法进行模型选择。
Nov, 2012
提出了一种新的贝叶斯非参数方法,以在非欧几里德域上学习平移不变的关系。 该方法可应用于机器学习问题,其中输入观测值是具有普通图形域的函数。 并将图卷积高斯过程应用于图像和三角形网格等领域,表明了其多功能性和有效性,与现有方法相比具有优势,尽管是相对简单的模型。
May, 2019
这篇论文介绍了深高斯过程的概念,通过递归构建多个层级的高斯分布,定义了几类深高斯过程,探讨了深层结构的能量传递特性和 Markov 链的效应以及深高斯过程在计算机表示函数中的应用。
Nov, 2017
我们提出了一种基于概率数值方法的卷积神经网络,使用高斯过程表示特征,并采用偏微分方程定义卷积层,实现了旋转等变卷积,实验结果显示我们的方法可将误差降低 3 倍,并在医学时间序列数据集 PhysioNet2012 上展现了出色的性能。
Oct, 2020
本文研究神经网络与高斯过程之间的等价性,并在卷积神经网络上实现了类似的等价性,提出了估计给定神经网络结构下对应高斯过程的蒙特卡罗方法,证实了在无池化层情况下,具有和不具有权重共享的卷积神经网络对应的高斯过程是相同的,表明了经过精心调整的随机梯度下降训练的卷积神经网络性能可以明显优于相应的高斯过程。
Oct, 2018
提出了一种基于多维高斯混合分析卷积的深度学习方法,该方法通过高斯混合卷积核和数据产生多个特征通道,使用高斯混合拟合来代替传统的转移函数(如 ReLU),并在适当减少高斯混合成分数量的情况下进行汇集,基于该架构的网络在封装 MNIST 和 ModelNet 数据集的高斯混合物上达到了竞争性的准确性。
Feb, 2022