高维空间中的批量大规模贝叶斯优化
本文提出了一个深度学习框架,基于具有随机先验的 bootstrap 整合的神经体系结构,用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系,测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。
Feb, 2023
本文提出了一种新的基于加性模型的贝叶斯优化算法,可以高效地处理存在重叠子集的高维函数优化问题,并通过图上的信息传递算法优化其采集函数,同时提出了通过 Gibbs 抽样学习其结构的算法,实验证明该方法在合成数据和真实数据上都具有良好效果。
Feb, 2018
本文提出了一种处理高维黑盒函数优化挑战的方法 —— 通过 (1) 推断函数的潜在加法结构以进行更加高效和有效的贝叶斯优化,(2) 并行进行多次评估以减少方法所需的迭代次数。通过 Gibbs 抽样学习潜在结构,并使用定向点过程构建批量查询。实验结果证明,该方法优于现有技术。
Mar, 2017
本文提出了一种可伸缩的多目标贝叶斯优化算法 MORBO,通过同时在设计空间的多个本地区域中使用协调策略进行并行优化,远高于现有算法的采样效率,适用于高维度的综合问题。
Sep, 2021
Bayesian Optimization is enhanced by integrating intermediate outputs and effectively tackles high-dimensional problems using Joint Composite Latent Space Bayesian Optimization.
Nov, 2023
我们提出了一种称为 Group Testing Bayesian Optimization (GTBO) 的算法,通过使用组合测试的方法来识别和利用活跃变量,从而优化高维问题的黑盒函数。通过利用坐标轴对齐子空间假设,GTBO 在多个合成和真实高维优化任务上与最先进的方法相竞争,并有助于发现应用中的活跃参数,从而增强从业者对问题的理解。
Oct, 2023
该论文介绍了一种使用多任务高斯过程模型和克罗内克结构的精确采样技术的黑盒优化方法,可用于多个相关目标的优化,并可应用于涉及成千上万个相关输出的任务,从而实现了与现有方法相比较大的样本效率提高。
Jun, 2021
本文提出了两种新的并行贝叶斯优化(BO)范例,可利用设计空间的结构进行分区。其中,一种方法是按照性能函数的级集划分设计空间,另一种方法是利用性能函数的部分可分性结构。数值实验表明,这些方法可显著减少搜索所需时间,提高发现全局最优解(而非局部最优解)的概率。
Oct, 2022
研究在 Bayeasian Optimization 中如何使用高斯过程作为后验估计器,并提出了一种混合算法,该算法基于当前状态在顺序策略和批处理策略之间动态切换,批处理策略具有可变的批次大小。本文给出了算法的理论并在八个基准 BO 问题上展示了实验结果。结果表明,相比纯顺序策略,该方法可以实现大幅度的加速(高达 % 78),而不会遭受任何显着的性能损失。
Feb, 2012
基于高斯过程 surrogate 模型,利用 Hamiltonian Monte Carlo 进行推断,能够迅速识别与建模未知目标函数相关的空间稀疏子空间,实现高维贝叶斯优化 (Bayesian optimization) 中样本效率与性能的权衡。
Feb, 2021