在这篇论文中，我们开发了一种可扩展的基于高斯过程的模块化元学习模型 ScaML-GP，其中的核心贡献是一个经过精心设计的多任务核函数，它实现了层次化训练和任务的可扩展性。通过在元数据上对 ScaML-GP 进行条件化，我们揭示了其模块化特性，得到一个结合了元任务高斯过程后验的测试任务先验。在合成和真实世界的元学习实验中，我们证明了 ScaML-GP 可以在少量和大量元任务中高效学习。

Dec, 2023

在短缺数据情况下，为贝叶斯机器学习模型提供适当的先验知识是主要挑战。最近元学习的进展提供了从相关任务中获得这些先验知识的强大方法。本文探索了高斯过程先验的平均函数元学习，提供了分析和经验证据表明均值函数的学习对于元学习是有用的，讨论了过拟合的风险，并与其他元学习方法进行了联系，如模型无关元学习和函数 PCA。

Jan, 2019

本研究基于贝叶斯优化框架，建立高斯过程模型，通过前期实验获得的信息来优化机器学习算法的超参数调整，作者提出可以超过经验人类调参表现的自动算法，并介绍收集实验信息、利用多核心并行实验等新算法。

Jun, 2012

通过最小化测试期望标定误差来从各种任务的数据中元学习如何校准不确定性，并在未知任务中使用这些知识，以改善回归不确定性估计性能。通过将高斯过程和高斯混合模型集成到神经网络模型中，我们可以以端到端的方式元学习模型参数，从而在几次训练的情况下提高不确定性估计性能并保持高回归性能。

Dec, 2023

本文提出了一种基于预训练高斯过程先验的 Bayesian optimization 策略 HyperBO，为深度学习模型的超参数调整提供了一种有效的方法，该方法不需要专家知识即可自动设置先验概率分布，并可在多任务和复杂场景下有效优化模型性能。

Sep, 2021

本文提出了使用高斯过程模型来进行非参数回归，分类等任务，通过使用马尔科夫链方法对高斯过程的协方差函数的超参数进行采样，可以发现数据的高级特性并实现预测响应所需输入的相关性。

Jan, 1997

本文提出了一种基于量子核的高斯过程回归方法，并利用硬件高效特征映射和 Gram 矩阵的精细正则化，展示了量子高斯过程的方差信息可以被保留，以及它可以作为贝叶斯优化的代理模型，最后将该模型应用于机器学习模型的超参数优化，并以实际数据集为例，与经典的贝叶斯优化进行比较，展示了量子版本的性能可以匹配。

Apr, 2023

本文提出了一种元学习方法，利用先前的元数据自动搜索高性能的机器学习管道以完成模型选择和超参数优化，该方法结合自适应贝叶斯回归模型、神经网络基函数和贝叶斯优化的收获函数，能够在监督分类数据集上高效地搜索预定义的候选管道，实验结果表明，该方法在一系列测试数据集上能够快速确定高性能的机器学习管道，并胜过基线方法。

Apr, 2019

利用层级潜变量模型，自动推断任务之间的关系并应用于模型强化学习中，从而实现在小规模数据集上的元学习，有效提高数据利用率，解决新任务的平均交互时间缩短高达 60%。

Mar, 2018

本文提出了一种低秩 / 马尔科夫逼近的高斯过程模型，该模型在保证预测性能的同时提高了可扩展性并且适合于在多个机器 / 内核上并行运行。

Nov, 2014