多输出高斯过程的谱混合核函数

NIPSSep, 2017

Spectral Mixture Kernels for Multi-Output Gaussian Processes

Gabriel Parra, Felipe Tobar

TL;DR提出了基于复值交叉频谱密度的参数化多元协方差函数，实现对通道之间时间延迟和相位差异的建模，进而提高了模型的表达能力。该方法在合成数据和真实数据集上进行了验证和比较。

Abstract

Early approaches to multiple-output gaussian processes (MOGPs) relied on linear combinations of independent, latent, single-output Gaussian processes (GPs). This resulted in cross-covariance functions with limited parametric interpretation, thus conflicting with the ability of single-o

multiple-output gaussian processes spectral mixture kernel cross-spectral densities multivariate covariance functions expressiveness

发现论文，激发创造

层次数据的潜在变量多输出高斯过程

该研究论文提出了一个扩展多输出高斯过程（MOGPs）用于分层数据集的方法，通过定义适合层次结构的核函数来捕捉不同层次的相关性，并通过引入潜在变量表达输出之间的潜在依赖关系，以提高可扩展性。通过合成数据和基因组学以及动作捕捉的真实世界数据进行了广泛的实验研究，以支持该方法。

Aug, 2023

线性多核高斯过程：频谱设计与多维数据的分布式学习

该研究论文提出了一种新颖的基于网格谱混合核的高斯过程模型，该模型在多维数据中减少了超参数数量并保持了优化结构和逼近能力，以及基于交替方向乘子法框架的分布式算法，可以在大数据环境下协同学习，同时保护数据隐私，并通过量化超参数来解决分布式框架中的通信带宽限制问题，实验证明了该方法在不同数据集上具有优秀的预测性能和效率。

Sep, 2023

非静态谱核

提出了用于高斯过程回归的非平稳谱核，其谱密度由输入依赖高斯过程频率密度表面的混合物建模，实现了能够学习输入依赖和潜在长程非单调协方差（inputs-dependent and potentially long-range, non-monotonic covariances）的一族非平稳和非单调核函数，并借助模型白化和边缘概率等方法推导出有效的推理方法，证明这些核函数在建模具有非平稳特征的时间序列、图像或地理空间数据时是必要的。

May, 2017

基于混合频谱方法和谐振子的时空高斯过程非可分协方差核

本文提出了一种基于物理学论证的混合频谱方法来生成协方差核，用于导出一种新型的地理时间相关的、具有物理意义的不可分离协方差核，并研究了它们的性质。

Feb, 2023

用高斯过程求解高频率和多尺度偏微分方程

基于机器学习的求解器在物理模拟和科学计算中引起了广泛关注，本文介绍了一种基于高斯过程的方法来解决高频和多尺度的偏微分方程，利用混合核函数来灵活地捕捉主频，并通过在网格上放置采样点来加速计算，最终建立了一个 Kronecker 乘积结构的协方差矩阵。

Nov, 2023

异质多输出高斯过程预测

本文提出了一种新的多输出高斯过程扩展方法，用于处理异构输出，此方法使用向量值高斯过程先验来联合建模所有似然函数中的参数作为潜在函数，并以线性模型为核心的协同关系形式使用协方差函数；在假设潜在函数之间存在条件独立性并利用引导变量框架的前提下，我们能够获得易于处理的变分下界，适用于随机变分推理。最后我们在合成数据以及两个真实数据集上：人类行为研究数据集以及人口统计高维数据集中展示了该模型的性能。

May, 2018

混合输出高斯过程潜变量模型

此研究提出了一种贝叶斯非参数方法，用于信号分离，其中信号可以根据潜在变量而变化。我们的关键性贡献是将高斯过程潜变量模型（GPLVM）扩展为包括每个数据点由多个纯组分信号的加权和构成的情况，并且可以观察多个输入位置。我们的框架允许使用各种关于每个观测的权重的先验知识。这种灵活性使我们能够表示多种用例，包括估计分数构成的加权和为一约束条件和用于分类的二值权重。我们的贡献特别适用于光谱学，其中不同的条件可能导致基础纯组分信号从样本到样本变化。为了证明其在光谱学和其他领域的适用性，我们考虑了几个应用：具有不同温度的近红外光谱数据集，用于识别管道流动配置的模拟数据集，以及通过反射确定岩石类型的数据集。

Feb, 2024

高维高斯过程建模的加性协方差核

本文旨在探讨适用于构建加法 Kriging 模型的协方差核，并描述所得模型的一些特性。

Nov, 2011

高斯过程的变分傅里叶特征

本篇论文提出了一种组合变分方法和光谱表示的高斯过程近似算法，通过研究高斯过程的光谱特征和协方差，进行了相关推导和分析，并将该算法应用于 Matern 核和高维数据的处理中，结果表明该算法在计算速度和精度方面都表现出色。

Nov, 2016

多输出高斯过程的可扩展精确推断

研究了一种加速多输出高斯过程推理和学习的方法，利用数据的充分统计量实现在正交基中的线性缩放，从而实现在实践中线性缩放，同时不会牺牲重要的表现力或需要近似。

Nov, 2019