鲁棒性深高斯过程
本文介绍了一种基于双随机变分推断的方法,用于深度高斯过程模型(Deep Gaussian processes)的推断。该方法能够有效地处理数百个到十亿个数据点的分类和回归任务,验证了其推断模型的实用性。
May, 2017
本文提出了一种基于隐式后验变分推断 (IPVI) 框架的多层深高斯过程模型,能够理想地恢复无偏后验信念,并仍保持时间效率高,该框架通过将 DGP 推断问题建模为一个两个玩家博弈,在该博弈平衡点处获得无偏后验信念,并设计最佳响应动态算法来寻找博弈均衡点,得到的实证表明 IPVI 在 DGPs 的近似方法中优于现有技术水平。
Oct, 2019
本文提出了一种基于 Deep Gaussian processes(DGPs)的新型重要性加权目标函数,通过引入含噪变量作为潜在协变量,相比于经典的变分推断,可以在提高准确性的同时节省计算量,并且在更深层次的模型中表现良好。
May, 2019
本研究使用随机梯度哈密尔顿蒙特卡洛方法对深层高斯过程模型的非高斯后验分布抽样,提供了一种新的推断方法,成为 Deep Gaussian Processes 领域新的最优模型。
Jun, 2018
本文提出了一种变分高斯过程 (VGP) 方法,该方法是一种贝叶斯非参数变分方法,利用随机非线性映射生成近似后验样本,适应于复杂的后验分布,且通过学习随机映射的分布来使之适应于不同的复杂度,该方法在无监督学习中实现了最新的最佳结果。
Nov, 2015
本文提出使用随机变分推断基于随机特征扩展来训练 Deep Gaussian Process 模型的方法,该方法在多个数据集上均具有可扩展性和良好的性能,实现了量化不确定性的精确估计。
Oct, 2016
介绍了一种基于随机变分推断方法的高斯过程模型,该方法使高斯过程模型能够应用于包含数百万数据点的数据集,并在需要执行变分推断的情况下,演示了如何将高斯过程分解为依赖于一组全局相关的引出变量的方法,并将其扩展到基于高斯过程的潜变量模型和具有非高斯似然度的模型。作者在简单玩具问题和两个真实数据集上展示了这种方法。
Sep, 2013
提出了一种可解释的 DGPs 模型,通过计算精确矩来近似 DGPs,确定了某些 DGP 分布的重尾性质,并识别了 DGP 的表达能力参数,发现了 DGP 组合的非本地和非平稳相关性,并提供了推导二、三或无限层的有效核的通用方法。
May, 2019
通过变换样本中的联合分布,Deep Transformed Gaussian Processes(DTGPs)构建了多层模型,每一层都是转换高斯过程,增加了模型的灵活性和可扩展性。通过使用变分推断来近似计算,该方法扩展了 DSVI 推断算法,实验证明在多个回归数据集上取得了良好的性能。
Oct, 2023