Feb, 2021

稀疏轴向对齐子空间的高维贝叶斯优化

PDF
TL;DR基于高斯过程 surrogate 模型，利用 Hamiltonian Monte Carlo 进行推断，能够迅速识别与建模未知目标函数相关的空间稀疏子空间，实现高维贝叶斯优化 (Bayesian optimization) 中样本效率与性能的权衡。
bayesian optimizationhigh-dimensional optimizationgaussian process surrogate modelssparse subspacessample efficiency
发现论文，激发创造
  • 学习过程中增加范围：嵌套子空间中的自适应贝叶斯优化

    提出 BAxUS 方法，通过应用一种新颖的嵌套随机子空间方法来适应高维度贝叶斯优化问题，确保高性能并消除失败风险，同时得到了比现有方法更好的结果。

    Apr, 2023

  • 通过一维子空间在高维空间中进行自适应和安全的贝叶斯优化

    提出了一种名为 LineBO 的算法，将高维度的贝叶斯优化问题限制为一系列一维子问题，实现了全局收敛和快速局部速率，并在应用于多个合成基准测试和真实应用中获得了良好的结果。

    Feb, 2019

  • 稀疏贝叶斯优化

    介绍了一种适用于解释性要求高场景下的基于正则化的 BO 方法（SEBO），以发现稀疏且解释性更高的配置。该方法使用一种基于连续同伦的可微松弛技巧，使其能够在直接处理 L0 正则化的同时实现目标优化和稀疏化探索，经过合成和真实世界问题的评估，证明这种方法能够有效优化稀疏化问题。

    Mar, 2022

  • 高维贝叶斯优化：基于有重叠分组加性模型

    本文提出了一种新的基于加性模型的贝叶斯优化算法，可以高效地处理存在重叠子集的高维函数优化问题，并通过图上的信息传递算法优化其采集函数，同时提出了通过 Gibbs 抽样学习其结构的算法，实验证明该方法在合成数据和真实数据上都具有良好效果。

    Feb, 2018

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023

  • 高维搜索空间上的多目标贝叶斯优化

    本文提出了一种可伸缩的多目标贝叶斯优化算法 MORBO，通过同时在设计空间的多个本地区域中使用协调策略进行并行优化，远高于现有算法的采样效率，适用于高维度的综合问题。

    Sep, 2021

  • 高维空间中的批量大规模贝叶斯优化

    本文提出了一种基于集成高斯过程模型的贝叶斯优化算法（EBO），以解决黑盒函数优化问题中大规模观测、高维输入空间和批量查询质量与多样性平衡等三大挑战。结果表明，EBO 能在几分钟内扩展到数万次观测，同时取得了前所未有的优化效果。

    Jun, 2017

  • 高维贝叶斯优化之监督降维

    本文提出了一种基于 Sliced Inverse Regression（SIR）的高维贝叶斯优化算法，能够通过降维方法学习对象函数的内在子结构，并且采用了核技巧来降低计算复杂度和学习非线性的子集。实验证明，该算法在高维贝叶斯优化中具有优越性。

    Jul, 2019

  • 高维贝叶斯优化与分组测试

    我们提出了一种称为 Group Testing Bayesian Optimization (GTBO) 的算法，通过使用组合测试的方法来识别和利用活跃变量，从而优化高维问题的黑盒函数。通过利用坐标轴对齐子空间假设，GTBO 在多个合成和真实高维优化任务上与最先进的方法相竞争，并有助于发现应用中的活跃参数，从而增强从业者对问题的理解。

    Oct, 2023

  • 基于仿真的贝叶斯优化

    模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法，只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中，我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。

    Jan, 2024