本研究基于贝叶斯优化框架，建立高斯过程模型，通过前期实验获得的信息来优化机器学习算法的超参数调整，作者提出可以超过经验人类调参表现的自动算法，并介绍收集实验信息、利用多核心并行实验等新算法。

Jun, 2012

本文提出了一种基于贝叶斯优化的方法，该方法可以利用学习算法的迭代结构来有效地调整超参数。在深度强化学习和卷积神经网络训练中，我们的算法通过选择最佳超参数的方式，以最小时间成本实现了调优。

Sep, 2019

本文通过对现有线性嵌入的文献进行研究后，识别出其中的一些关键问题和误解，并在解决这些问题的基础上，极大地提高了利用线性嵌入进行Bayesian优化的效能，包括机器人运动中学习步态策略等方面。

Jan, 2020

本文提出一种结合局部优化与定制内核设计的新型解决方案，有效应对高维分类和混合搜索空间，同时保留样本效率，经实验证明在性能、计算成本等方面优于当前基准。

Feb, 2021

本篇论文中提出了一种新的LOL-BO方法，通过重新解释DAE的编码器功能，称其为“trust regions”，将局部优化与输入空间中的局部优化更好地对齐，实现了对六个真实世界基准的20倍性能提升。

Jan, 2022

本文提出了一个深度学习框架，基于具有随机先验的bootstrap整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

Feb, 2023

我们研究高维和非稳态情景下的贝叶斯优化。我们提出了一个名为BALLET的框架，通过自适应过滤高置信度感兴趣区域（ROI）来解决现有算法在这些情景中通常需要大量超参数调整的问题。我们的方法易于调整，并能够聚焦于可以应用现有贝叶斯优化方法处理的优化空间的局部区域。关键思想是使用两个概率模型：一个粗糙的高斯过程（GP）用于识别ROI，一个局部化的GP用于ROI内的优化。我们理论上证明了BALLET可以有效缩小搜索空间，并且能够比没有ROI过滤的标准贝叶斯优化展现更紧的遗憾界限。我们通过合成和实际优化任务的实证研究证明了BALLET的有效性。

Jul, 2023

通过引入Lipschitz正则化和损失加权等方法，我们提出了一种相关的潜空间贝叶斯优化（CoBO）方法，用于优化黑盒函数中的离散数据。在分子设计和算术表达式拟合等离散数据的多个优化任务中，我们的方法在较小的资源预算下取得了高性能。

Oct, 2023

Bayesian Optimization is enhanced by integrating intermediate outputs and effectively tackles high-dimensional problems using Joint Composite Latent Space Bayesian Optimization.

Nov, 2023

高维问题一直被认为是贝叶斯优化算法的致命软肋。本文通过识别导致标准贝叶斯优化在高维任务中性能不佳的退化情况，并通过减少模型复杂性的角度探究现有算法如何应对这些退化情况。此外，我们提出了一种增强对标准贝叶斯优化算法中先验假设的修改方法，通过与维度进行简单缩放的高斯过程长度尺度先验，揭示了在高维情况下标准贝叶斯优化比以往认为的表现要好得多，明显优于多个常见的真实高维任务的现有最先进算法。

Feb, 2024