May, 2024

潜在能量驱动之旅：通过在能量基潜空间中扩展探索的黑盒优化

PDF
TL;DR离线黑盒优化目标是通过预先采集的函数值和相关输入设计的离线数据集的知识来优化黑盒函数。我们提出了一种可学习的能量驱动潜空间模型，以及一种基于噪声增强的望远镜密度比估计方案，用于变分学习准确的潜空间模型。通过所学的能量驱动模型在潜空间中的梯度导向采样，我们展示了该方法在高价值设计模式的探索中取得了显著改进。
offline black-box optimizationlatent spaceinput designsenergy-based modelhigh-value design modes
发现论文，激发创造
  • 联合复合潜空间贝叶斯优化

    Bayesian Optimization is enhanced by integrating intermediate outputs and effectively tackles high-dimensional problems using Joint Composite Latent Space Bayesian Optimization.

    Nov, 2023

  • 通过学习相关潜空间推进贝叶斯优化

    通过引入 Lipschitz 正则化和损失加权等方法，我们提出了一种相关的潜空间贝叶斯优化（CoBO）方法，用于优化黑盒函数中的离散数据。在分子设计和算术表达式拟合等离散数据的多个优化任务中，我们的方法在较小的资源预算下取得了高性能。

    Oct, 2023

  • 结合潜空间和结构核的组合空间贝叶斯优化

    本文提出了一种基于结构耦合核的 BO 方法 LADDER，使用深度生成模型的潜在表示来优化组合空间，解决了传统 BO 方法中代理模型只利用深度生成模型学习的信息对黑盒函数进行近似的缺陷，并通过实验验证表现优越。

    Nov, 2021

  • 基于本地潜空间的结构化输入贝叶斯优化

    本篇论文中提出了一种新的 LOL-BO 方法，通过重新解释 DAE 的编码器功能，称其为 “trust regions”，将局部优化与输入空间中的局部优化更好地对齐，实现了对六个真实世界基准的 20 倍性能提升。

    Jan, 2022

  • Diff-BBO：基于扩散的黑盒优化的逆向建模

    基于扩散模型的逆向建模用于黑盒优化问题，通过设计新颖的获取函数（UaE），它利用条件扩散模型的不确定性在设计空间中生成样本，实现了在线黑盒优化，并在实验中证明了其优越性能。

    Jun, 2024

  • 黑盒优化的生成式预训练

    BONET 是一个使用离线数据集为基础，训练一个新的黑盒优化器的生成框架，采用单调转移启发式策略，实现从低保真度到高保真度的采样，在 Design-Bench 中的实验结果显示，BONET 使用一个因果掩码转换器的实例，在平均排名上表现最佳，优于现有技术基准。

    Jun, 2022

  • 高维空间中的批量大规模贝叶斯优化

    本文提出了一种基于集成高斯过程模型的贝叶斯优化算法（EBO），以解决黑盒函数优化问题中大规模观测、高维输入空间和批量查询质量与多样性平衡等三大挑战。结果表明，EBO 能在几分钟内扩展到数万次观测，同时取得了前所未有的优化效果。

    Jun, 2017

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023

  • 通过潜在决策模型的隐藏约束贝叶斯优化

    这篇论文介绍了一种名为 Hidden-Constrained Latent Space Bayesian Optimization (HC-LSBO) 的新型贝叶斯优化方法，它集成了潜在决策模型，并利用可变自编码器学习可行决策的分布，从而实现原始决策空间与较低维潜在空间的双向映射。通过这种方式，HC-LSBO 捕捉了公共政策制定中固有的隐藏约束的微妙差别，允许在潜在空间进行优化，同时在原始空间中评估目标。我们通过在合成和真实数据集上进行数字实验验证了这种方法，具体关注了乔治亚州亚特兰大的大规模警区划问题。我们的结果显示，与基线相比，HC-LSBO 在性能和效率方面均有显著改进。

    Oct, 2023

  • 通过加权重新训练，在深度生成模型的潜在空间中实现高样本效率的优化

    提出了一种利用深度生成模型进行优化的方法，通过周期性地在优化轨迹中重新训练生成模型并根据目标函数值加权来有效地提高样本效率和性能。

    Jun, 2020