- 为组合高斯过程模型设计的自适应 RKHS Fourier 特征
利用深高斯过程(Deep Gaussian Processes)的组合结构来建模非平稳过程,并借助全局傅里叶特征提高其捕捉复杂非平稳模式的能力,通过引入基于常微分方程的傅里叶特征使我们的模型能够通过卷积操作进行自适应振幅和相位调制,进一步提 - 深度高斯过程在多保真建模中的梯度增强
多保真度模型集成多个数据源以产生底层过程的单个逼近器,并通过稠密低保真样本来降低插值误差,通过稀疏高保真样本来补偿低保真样本中的偏差或噪音。本文将深度高斯过程扩展到包含梯度数据,并在实际的偏微分方程问题中进行应用,其中预测高超声速飞行器在一 - 深度神经网络中表示学习的理论提供了核方法的深度广义化
本文介绍了一种基于无限宽的贝叶斯表达学习界限的深层高斯过程方法以及基于这个界限的核方法的深度泛化技术。实验证实这种方法能够处理有限宽的高斯方法以及 NNs,这将有助于在大规模数据上应用这种方法。
- ICML关于深高斯过程变分推断中信噪比问题的研究
通过理论分析和大量实验证明,在 Deep Gaussian Processes (DGPs) 使用加权变分推断训练的梯度估计中,信噪比问题是普遍存在的。本文提出的基于双重重参数化的梯度估计方法解决了这个问题,提高了 DGPs 模型的预测性能 - ICML跨领域深度高斯过程
本文提出了扩展 Inter-domain Gaussian processes 的 Inter-domain Deep Gaussian Processes 方法,基于现有的近似推理方法使用 inter-domain features 实现 - AAAI通过非线性复发系统表征深度高斯过程
通过研究 Deep Gaussian Processes 对应的非线性动态系统,分析了其学习能力随层数增加而显著降低的问题,提供了紧密的界限和动态系统的收敛速度,并将此发现证明实验结果。
- ICML贝叶斯神经网络和深高斯过程的全局诱导点变分后验
本研究涉及 Bayesian 神经网络和深度高斯过程的研究,并提出了一种用于权重的近似后验方法,使用了全局诱导点以及深度高斯过程。此方法取得了现有最优性能,无需数据增强或加温,达到了 86.7%的 CIFAR-10 的结果,可与 Wenze - 深度高斯过程中的组合不确定性
本文介绍了高斯过程和深度高斯过程,并探讨了用于近似贝叶斯推断的不同变分推断模型及其优点和局限性。
- NIPS可解释的深高斯过程与矩
提出了一种可解释的 DGPs 模型,通过计算精确矩来近似 DGPs,确定了某些 DGP 分布的重尾性质,并识别了 DGP 的表达能力参数,发现了 DGP 组合的非本地和非平稳相关性,并提供了推导二、三或无限层的有效核的通用方法。
- ICML使用重要性加权变分推断的深高斯过程
本文提出了一种基于 Deep Gaussian processes(DGPs)的新型重要性加权目标函数,通过引入含噪变量作为潜在协变量,相比于经典的变分推断,可以在提高准确性的同时节省计算量,并且在更深层次的模型中表现良好。
- 鲁棒性深高斯过程
本报告深入概述了 GVI 在 DGPs 中带来的影响和创新,特别是信息几何视角下的模型错误规范性的稳健性和不确定性量化的合理替代方案等修正措施对 DGPs 的改进潜力,并通过相应的实证结果予以证明。
- 使用随机梯度哈密顿蒙特卡罗推断深高斯过程
本研究使用随机梯度哈密尔顿蒙特卡洛方法对深层高斯过程模型的非高斯后验分布抽样,提供了一种新的推断方法,成为 Deep Gaussian Processes 领域新的最优模型。
- 卷积核深高斯过程
本论文针对深度高斯过程在计算机视觉领域应用时存在的挑战(例如卷积结构),提出了一种基于卷积核的卷积 DGP 模型(CDGP)来解决该问题,并在多类图像分类任务中表现出优越性能。
- 深度高斯过程有多深?
这篇论文介绍了深高斯过程的概念,通过递归构建多个层级的高斯分布,定义了几类深高斯过程,探讨了深层结构的能量传递特性和 Markov 链的效应以及深高斯过程在计算机表示函数中的应用。
- NIPS深高斯过程的双随机变分推断
本文介绍了一种基于双随机变分推断的方法,用于深度高斯过程模型(Deep Gaussian processes)的推断。该方法能够有效地处理数百个到十亿个数据点的分类和回归任务,验证了其推断模型的实用性。
- 变分自编码深度高斯过程
通过与一个识别模型相结合,我们开发了一个可扩展的深度非参数生成模型。在利用多层感知器的变分框架下,我们重新参数化变分后验分布,并推导出一个可处理深度学习任务规模数据集的变分下界公式,证明了该方法在深度无监督学习和深度贝叶斯优化领域的有效性。
- 深高斯过程中的嵌套变分压缩
本文中提出了一种深度高斯过程的变分压缩方法,可以用于灵活地对数据进行概率建模,并实现易于并行化或改进为随机变分推断的较低上界似然估计。