AAAIDec, 2020

基于树结构加性模型的高维贝叶斯优化

PDF
TL;DR本文提出了一种基于广义加性模型 (GAM) 的 Bayesian Optimization (BO) 方法来解决高维优化问题，该方法采用树形结构的依赖图来优化加速计算，同时保留现有方法的样本效率，相比于通过 Gibbs 采样和变异的混合图算法更加高效，通过一系列的实验验证了该方法的有效性。
bayesian optimizationhigh-dimensional optimizationgeneralized additive modelsdependency graphscomputational efficiency
发现论文，激发创造
  • 高维贝叶斯优化：基于有重叠分组加性模型

    本文提出了一种新的基于加性模型的贝叶斯优化算法，可以高效地处理存在重叠子集的高维函数优化问题，并通过图上的信息传递算法优化其采集函数，同时提出了通过 Gibbs 抽样学习其结构的算法，实验证明该方法在合成数据和真实数据上都具有良好效果。

    Feb, 2018

  • 高维贝叶斯优化与加法模型赌博机

    本文提出在具有加性结构的情形下，基于贝叶斯优化算法优化高维函数具有更好的表达性和计算优势，并且证明该方法在加性函数下的误差仅与维数呈线性关系。此外，通过各种实验表明，我们的算法在加性函数和非加性函数情形下的效果显著优于 naive BO。

    Mar, 2015

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023

  • 批处理高维贝叶斯优化：通过结构核学习实现

    本文提出了一种处理高维黑盒函数优化挑战的方法 —— 通过 (1) 推断函数的潜在加法结构以进行更加高效和有效的贝叶斯优化，(2) 并行进行多次评估以减少方法所需的迭代次数。通过 Gibbs 抽样学习潜在结构，并使用定向点过程构建批量查询。实验结果证明，该方法优于现有技术。

    Mar, 2017

  • 去除去中心化无懊悔高维贝叶斯优化中的可加性约束

    本文提出了一种松弛针对 $f$ 的加性结构限制的去中心化贝叶斯优化算法 DuMBO，并针对过度探索问题进行调节，是一种在高维环境下实现成本高昂的优化的良好选择。

    May, 2023

  • 稀疏轴向对齐子空间的高维贝叶斯优化

    基于高斯过程 surrogate 模型，利用 Hamiltonian Monte Carlo 进行推断，能够迅速识别与建模未知目标函数相关的空间稀疏子空间，实现高维贝叶斯优化 (Bayesian optimization) 中样本效率与性能的权衡。

    Feb, 2021

  • 高维贝叶斯优化与分组测试

    我们提出了一种称为 Group Testing Bayesian Optimization (GTBO) 的算法，通过使用组合测试的方法来识别和利用活跃变量，从而优化高维问题的黑盒函数。通过利用坐标轴对齐子空间假设，GTBO 在多个合成和真实高维优化任务上与最先进的方法相竞争，并有助于发现应用中的活跃参数，从而增强从业者对问题的理解。

    Oct, 2023

  • 高维空间中的批量大规模贝叶斯优化

    本文提出了一种基于集成高斯过程模型的贝叶斯优化算法（EBO），以解决黑盒函数优化问题中大规模观测、高维输入空间和批量查询质量与多样性平衡等三大挑战。结果表明，EBO 能在几分钟内扩展到数万次观测，同时取得了前所未有的优化效果。

    Jun, 2017

  • 基于 Monte Carlo Tree Search 的高维贝叶斯优化变量选择

    本文介绍了一种基于 Monte Carlo Tree Search 的变量选择方法 MCTS-VS，通过迭代选择和优化一组变量来构建低维空间，并使用任何 Bayesian optimization 算法在该空间内进行优化，经过高维合成函数和现实世界任务的测试，表明 MCTS-VS 可以在高维问题上获得业界领先效果。

    Oct, 2022

  • BOIS: 基于贝叶斯优化的互联系统

    通过使用自适应线性化的方法来处理复合函数的统计矩问题，引入了一种新的 Bayesian optimization (BO) 模式，可有效利用结构化知识，并在化学过程优化案例研究中取得了性能提升和复合函数统计特性的准确捕捉。

    Nov, 2023