层次 - 超平面核在主动学习非稳态系统高斯过程模型中的应用

Mar, 2023

层次 - 超平面核在主动学习非稳态系统高斯过程模型中的应用

Hierarchical-Hyperplane Kernels for Actively Learning Gaussian Process Models of Nonstationary Systems

Matthias Bitzer, Mona Meister, Christoph Zimmer

TL;DR本论文提出了一种可以学习非线性数据特性的内核函数家族，该家族通过一种可学习的输入分区来改进先前的方法，并在各种主动学习任务中表现出出色的性能。

Abstract

Learning precise surrogate models of complex computer simulations and physical machines often require long-lasting or expensive experiments. Furthermore, the modeled physical dependencies exhibit nonlinear and nonstationary behavior. machine learning methods that are used to produce th

surrogate model machine learning active learning nonlinear behavior input-partitioning

发现论文，激发创造

一种新的可靠且简约的学习策略，由两层高斯过程构成，以解决非均匀经验相关结构

通过将函数模型为非平稳高斯过程的样本函数，学习一对变量之间的功能关系，解决可用数据的相关结构的不均匀性问题，并在其中嵌套多个高斯过程，从而建立了两个高斯过程层的充分性。

Apr, 2024

基于主动学习的代理建模技术用于高效模拟参数非线性系统

本研究提出了一种非侵入式优化准则，以有效地构建参数化代理模型，利用基于核的浅层神经网络的主成分分析子空间和主动学习方法构建了 ActLearn-POD-KSNN 代理模型，该模型可以有效地预测新参数位置处的求解，即使在有多个相互作用的激波轮廓的情况下。

Jun, 2023

高斯过程与非平稳傅里叶特征的空间映射

本文介绍了一种基于傅里叶特征表示和深度学习方法的高斯过程模型，可以学习任意复杂度的非平稳协方差核直接从数据中，而不会过拟合，并且可以应用于时间序列和遥感等领域。

Nov, 2017

深入的高斯过程的非稳态卷积核的统一视角

高斯过程常用于数据的随机函数逼近和不确定性量化，在机器学习中它们表现出优秀的预测能力，尤其在数据稀缺场景下，但核函数作为高斯过程的重要构建模块，通常需要进行复杂的定制，我们通过研究代表性数据集中多种核函数的表现、性质和性能，提出了一种融合现有核函数优点的新核函数。

Sep, 2023

非静态谱核

提出了用于高斯过程回归的非平稳谱核，其谱密度由输入依赖高斯过程频率密度表面的混合物建模，实现了能够学习输入依赖和潜在长程非单调协方差（inputs-dependent and potentially long-range, non-monotonic covariances）的一族非平稳和非单调核函数，并借助模型白化和边缘概率等方法推导出有效的推理方法，证明这些核函数在建模具有非平稳特征的时间序列、图像或地理空间数据时是必要的。

May, 2017

主动学习高斯过程动力学

本文提出了利用高斯过程回归中自然产生的信息理论特性的主动学习策略，尊重系统动态 imposed 约束下的抽样过程，并在高不确定度区域选择抽样点，以实现探索性行为和数据高效训练。该方法在大量数值基准测试中得到验证。

Nov, 2019

高斯过程的线性嵌入主动学习

提出一种主动学习方法，用于发现高维高斯过程任务中的低维结构，同时引入一种新技术，用于近似边缘化高斯过程超参数，从而提供在高维空间中执行高效的高斯过程回归、积分或贝叶斯优化的方法。

Oct, 2013

高斯过程状态空间模型中的主动学习

本文研究了高斯过程状态空间模型的主动学习。通过决定其输入，我们可以通过 GPSSM 最优地学习系统的潜在状态，以便选择最具信息量的输入。我们提出了两种逼近潜在状态下 GPSSM 的互信息的方法，并在多个物理系统中进行了评估。

Jul, 2021

动态和非平稳环境中的基于核的函数学习

机器学习中一个核心主题是从稀疏和嘈杂的数据中进行函数估计。本文研究了内核岭回归，并推导了在非平稳分布下的收敛条件，同时解决了可能无限次发生的随机调适情况，包括重要的探索 - 开发问题。

Oct, 2023

深度核学习

介绍了可伸缩的深度核，将深度学习架构的结构属性与核方法的非参数灵活性相结合，通过局部核插值、引入点、Kronecker 和 Toeplitz 代数进行转换，使用这些闭式核可以用作标准核的替代品，在表达能力和可伸缩性方面具有优势，通常情况下，学习和推断代价为 $ O (n)$，而预测代价为每个测试点的 $O (1)$。

Nov, 2015