AAAIOct, 2020

通过非线性复发系统表征深度高斯过程

PDF
TL;DR通过研究 Deep Gaussian Processes 对应的非线性动态系统，分析了其学习能力随层数增加而显著降低的问题，提供了紧密的界限和动态系统的收敛速度，并将此发现证明实验结果。
deep gaussian processeslearning capacitiesnonlinear dynamic systemsstationary kernel functionsconvergence
发现论文，激发创造
  • 卷积核深高斯过程

    本论文针对深度高斯过程在计算机视觉领域应用时存在的挑战（例如卷积结构），提出了一种基于卷积核的卷积 DGP 模型（CDGP）来解决该问题，并在多类图像分类任务中表现出优越性能。

    Jun, 2018

  • 可解释的深高斯过程与矩

    提出了一种可解释的 DGPs 模型，通过计算精确矩来近似 DGPs，确定了某些 DGP 分布的重尾性质，并识别了 DGP 的表达能力参数，发现了 DGP 组合的非本地和非平稳相关性，并提供了推导二、三或无限层的有效核的通用方法。

    May, 2019

  • 深高斯过程的随机特征扩展

    本文提出使用随机变分推断基于随机特征扩展来训练 Deep Gaussian Process 模型的方法，该方法在多个数据集上均具有可扩展性和良好的性能，实现了量化不确定性的精确估计。

    Oct, 2016

  • 浅层和深层高斯过程

    该研究提出了一种新的方法，称为 Thin and Deep GP (TDGP)，它通过定义原始输入数据的局部线性变换来保持潜在嵌入的概念，并保留核函数的长度尺度的解释性。与先前的方法不同，TDGP 引入的流形可避免路径学习中的特殊病理问题，并且在学习低维表示方面表现出色。在理论和实验结果中证明了 TDGP 在发现输入数据的低维流形、增加层数时的良好性能以及在标准基准数据集上的表现。

    Oct, 2023

  • 宽深神经网络中的高斯过程行为

    本研究研究了深度神经网络和高斯过程之间的联系，指出在广泛的条件下，随着体系结构越来越宽，隐含的随机函数在分布上会趋于高斯过程，并使用最大平均偏差评估收敛速率。最后，将贝叶斯深度网络与高斯过程进行比较，并从文献中回顾了非高斯替代模型。

    Apr, 2018

  • 深度高斯过程有多深？

    这篇论文介绍了深高斯过程的概念，通过递归构建多个层级的高斯分布，定义了几类深高斯过程，探讨了深层结构的能量传递特性和 Markov 链的效应以及深高斯过程在计算机表示函数中的应用。

    Nov, 2017

  • 深高斯过程

    本文介绍了深度高斯过程模型，该模型可用于稀少数据的拟合，以及通过贝叶斯方法进行模型选择。

    Nov, 2012

  • 高斯过程用于非线性信号处理

    本文介绍用高斯过程进行非线性估计问题的解决，讨论了其中的一些重要方面和扩展，包括递归和自适应算法处理非平稳、低复杂度解决方案、非高斯噪声模型和分类场景，最后提供了几个无线数字通信的应用实例。

    Mar, 2013

  • 循环高斯过程

    本文介绍了一种基于回归高斯过程（RGP）模型的贝叶斯非参数模型，能够从序列数据中学习动态模式，并提出了一种低维度的 RNN-based 顺序识别模型，可用于非线性系统识别，以及具有广泛适用性的动态学习。

    Nov, 2015

  • 具有循环结构的可伸缩深度核学习

    提出了 GP-LSTM 模型，利用可闭合表达式内核，在保留高斯过程非参数概率优势的同时，完全包含了 LSTM 递归神经网络的归纳偏置，能够很好地用于处理序列数据，提升了自动驾驶等领域的预测准确性。

    Oct, 2016