Sep, 2023

深入的高斯过程的非稳态卷积核的统一视角

PDF
TL;DR高斯过程常用于数据的随机函数逼近和不确定性量化，在机器学习中它们表现出优秀的预测能力，尤其在数据稀缺场景下，但核函数作为高斯过程的重要构建模块，通常需要进行复杂的定制，我们通过研究代表性数据集中多种核函数的表现、性质和性能，提出了一种融合现有核函数优点的新核函数。
gaussian processkernel functionnon-stationarityprediction performanceuncertainty quantification
发现论文，激发创造
  • 高斯过程与非平稳傅里叶特征的空间映射

    本文介绍了一种基于傅里叶特征表示和深度学习方法的高斯过程模型，可以学习任意复杂度的非平稳协方差核直接从数据中，而不会过拟合，并且可以应用于时间序列和遥感等领域。

    Nov, 2017

  • 非静态谱核

    提出了用于高斯过程回归的非平稳谱核，其谱密度由输入依赖高斯过程频率密度表面的混合物建模，实现了能够学习输入依赖和潜在长程非单调协方差（inputs-dependent and potentially long-range, non-monotonic covariances）的一族非平稳和非单调核函数，并借助模型白化和边缘概率等方法推导出有效的推理方法，证明这些核函数在建模具有非平稳特征的时间序列、图像或地理空间数据时是必要的。

    May, 2017

  • 一种新的可靠且简约的学习策略，由两层高斯过程构成，以解决非均匀经验相关结构

    通过将函数模型为非平稳高斯过程的样本函数，学习一对变量之间的功能关系，解决可用数据的相关结构的不均匀性问题，并在其中嵌套多个高斯过程，从而建立了两个高斯过程层的充分性。

    Apr, 2024

  • 用于模式发现和外推的高斯过程内核

    简单的谱密度模型可以与高斯过程一起使用，以发现模式并支持外推。该方法支持各种站点协方差，但高斯过程推理仍然简单且解析，可以在多种合成和实际数据集中进行演示。

    Feb, 2013

  • 无均值回归的平稳性：不正规高斯过程回归和不正规核函数

    使用不正规的高斯过程先验可以定义比较平稳但不回均值的过程，我们引入了一类大量的不正规核函数，这些不正规核函数只能在不正规的情况下定义，其中包括产生无限平滑样本的平滑随机行走核函数，以及可以定义为任意整数次可微的不正规马特尔核函数，通过分析合成数据和真实数据，我们证明了这些不正规核函数解决了一些回均值高斯过程回归的已知病态问题，同时保留了大多数普通平稳核函数的有利特性。

    Oct, 2023

  • 高斯过程用于非线性信号处理

    本文介绍用高斯过程进行非线性估计问题的解决，讨论了其中的一些重要方面和扩展，包括递归和自适应算法处理非平稳、低复杂度解决方案、非高斯噪声模型和分类场景，最后提供了几个无线数字通信的应用实例。

    Mar, 2013

  • 层次 - 超平面核在主动学习非稳态系统高斯过程模型中的应用

    本论文提出了一种可以学习非线性数据特性的内核函数家族，该家族通过一种可学习的输入分区来改进先前的方法，并在各种主动学习任务中表现出出色的性能。

    Mar, 2023

  • 深度学习中的固定激活函数用于不确定性校准

    介绍了一种新的基于 Matern 家族核函数的非线性神经网络激活函数，具有一定的局部平稳性和多样的可微性，表现出良好的表现和不确定性校准能力，并在分类和回归基准测试和雷达发射机分类任务中得到了证明。

    Oct, 2020

  • 利用波动性核和移动平均均值的高斯过程精准预测

    提出了一种将随机波动模型更改为具有特殊协方差函数的分层高斯过程模型的方法，使其可以根据历史数据产生真正的后验分布，同时还将基于大量已研究的领域的启发式设计用于多任务学习，实现了比基线模型更好的股票和风速预测。

    Jul, 2022

  • 动态和非平稳环境中的基于核的函数学习

    机器学习中一个核心主题是从稀疏和嘈杂的数据中进行函数估计。本文研究了内核岭回归，并推导了在非平稳分布下的收敛条件，同时解决了可能无限次发生的随机调适情况，包括重要的探索 - 开发问题。

    Oct, 2023