IJCAIJul, 2019

混合变量的贝叶斯优化

PDF
TL;DR本文介绍了一种新型的 Bayesian optimization（MiVaBo 算法），并且通过优化获取函数，在 mixed-variable 函数的优化过程中使其成为第一个能够处理离散变量复杂约束的 BO 方法，并提供了混合变量 BO 算法的第一个收敛分析，最后在多个具有超参数的调优任务中显示出 MiVaBo 显着比最先进的混合变量 BO 算法具有更高的样本效率，对于深度生成模型的优化更是如此。
bayesian optimizationmixed-variable functionsmivabo algorithmdiscrete constraintshyperparameter tuning
发现论文，激发创造
  • 基于贝叶斯优化的多目标混合变量问题

    本研究提出了一种混合变量、多目标贝叶斯优化框架 MixMOBO，可高效找到混合变量设计空间的最优帕累托前沿，同时确保多样解，结果表明 MixMOBO 在合成问题上表现良好。

    Jan, 2022

  • 输入噪声下的稳健多目标贝叶斯优化

    本文提出了一种新的多目标贝叶斯优化方法，旨在解决存在输入噪声的多目标优化问题，通过优化多维风险价值 (MVaR) 来产生适应噪声并能够满足多个指标要求的最优设计。

    Feb, 2022

  • 混合空间上的贝叶斯优化

    本文提出了一种新颖的混合贝叶斯优化方法，通过扩散核对离散和连续变量建模，证明了其拥有普适逼近性质，并在合成数据和六个不同领域的实验中证明了其显著优于现有方法的优越性。

    Jun, 2021

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023

  • 基于 Monte Carlo Tree Search 的高维贝叶斯优化变量选择

    本文介绍了一种基于 Monte Carlo Tree Search 的变量选择方法 MCTS-VS，通过迭代选择和优化一组变量来构建低维空间，并使用任何 Bayesian optimization 算法在该空间内进行优化，经过高维合成函数和现实世界任务的测试，表明 MCTS-VS 可以在高维问题上获得业界领先效果。

    Oct, 2022

  • 组合和混合变量贝叶斯优化的框架和基准

    本论文提出了混合变量和组合贝叶斯优化（MCBO）的模块化框架，以解决当前 MCBO 研究领域缺乏系统性基准和标准评估的问题，通过在 10 个任务上进行超过 4000 次实验，证明了该框架比现有方法具有更高的性能表现，并揭示了模型拟合和信任区域使用的重要性。

    Jun, 2023

  • 费用受限的贝叶斯优化的非近视方法

    本文提出了将成本约束的 BO 建模为约束马尔科夫决策过程 (CMDP) 的方法，并开发了一个高效的滚动估计算法，以同时考虑成本和未来迭代次数。作者在超参数优化和传感器集选择中验证了他们的方法。

    Jun, 2021

  • 基于贝叶斯优化的多样解发现

    ROBOT 使用排序和信任区间的方法来找到不同的高性能解决方案，相较于寻找单一最佳解决方案，只需要进行少量的额外函数评估。

    Oct, 2022

  • 高维贝叶斯优化：基于有重叠分组加性模型

    本文提出了一种新的基于加性模型的贝叶斯优化算法，可以高效地处理存在重叠子集的高维函数优化问题，并通过图上的信息传递算法优化其采集函数，同时提出了通过 Gibbs 抽样学习其结构的算法，实验证明该方法在合成数据和真实数据上都具有良好效果。

    Feb, 2018

  • 贝叶斯优化中的均值方差分析

    本文研究了在不确定环境下的主动学习问题，着重于基于贝叶斯优化的均值 - 方差分析问题，针对高斯过程模型的多任务、多目标和约束优化场景，提出了考虑不确定因素的均值 - 方差权衡的风险度量上下界的主动学习算法，并通过理论和数值实验证明了其有效性。

    Sep, 2020