AAAIDec, 2021

置换空间上的贝叶斯优化

PDF
TL;DR本研究针对基于贝叶斯优化的排列空间问题，提出了两种算法：BOPS-T 和 BOPS-H。两种算法均采用了高斯过程模型，BOPS-T 采用 Kendall 核函数和可处理的采集函数优化方法，BOPS-H 采用 Mallow 核函数和启发式搜索方法来优化期望改进采集函数。理论分析和实验表明，这两种算法在人工和实际基准测试中均优于同类问题的最先进的 BO 算法。
bayesian optimizationpermutation spacesgaussian processregretcombinatorial spaces
发现论文，激发创造
  • 基于仿真的贝叶斯优化

    模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法，只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中，我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。

    Jan, 2024

  • 贝叶斯优化的泊松过程

    基于泊松过程的贝叶斯优化方法，提出了一种基于排名的替代模型。通过两个定制的获取函数，解决了传统方法中的计算成本高和对噪音敏感的问题，并在模拟和真实世界基准测试中证明了其有效性。

    Feb, 2024

  • 伪贝叶斯优化

    采用拟贝叶斯优化的框架，通过利用简单的局部回归和随机化先验构建来量化不确定性，并保证收敛性，有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。

    Oct, 2023

  • 结合潜空间和结构核的组合空间贝叶斯优化

    本文提出了一种基于结构耦合核的 BO 方法 LADDER，使用深度生成模型的潜在表示来优化组合空间，解决了传统 BO 方法中代理模型只利用深度生成模型学习的信息对黑盒函数进行近似的缺陷，并通过实验验证表现优越。

    Nov, 2021

  • 利用随机先验网络进行高维输出的可伸缩贝叶斯优化

    本文提出了一个深度学习框架，基于具有随机先验的 bootstrap 整合的神经体系结构，用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系，测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。

    Feb, 2023

  • 基于原则的偏好贝叶斯优化

    通过使用偏好反馈，我们构建了黑盒函数的置信区间，并提出了一种乐观算法，该算法具有有效的计算方法，并且在累积遗憾方面具有信息理论上的界限，从而使我们能够设计出具有收敛速率保证的估计最佳解决方案的方案。实验结果表明，我们的方法在高斯过程、标准测试函数和热舒适优化问题上都能稳定地达到更好或者有竞争力的性能，相比现有的启发式方法而言，我们的方法不仅拥有遗憾界限或收敛性的理论保证。

    Feb, 2024

  • 贝叶斯优化中利用并行实验的新范式

    本文提出了两种新的并行贝叶斯优化（BO）范例，可利用设计空间的结构进行分区。其中，一种方法是按照性能函数的级集划分设计空间，另一种方法是利用性能函数的部分可分性结构。数值实验表明，这些方法可显著减少搜索所需时间，提高发现全局最优解（而非局部最优解）的概率。

    Oct, 2022

  • 高维空间中的批量大规模贝叶斯优化

    本文提出了一种基于集成高斯过程模型的贝叶斯优化算法（EBO），以解决黑盒函数优化问题中大规模观测、高维输入空间和批量查询质量与多样性平衡等三大挑战。结果表明，EBO 能在几分钟内扩展到数万次观测，同时取得了前所未有的优化效果。

    Jun, 2017

  • 优先贝叶斯优化

    本文介绍了一种名为 PBO 的新框架，它扩展了标准 BO 的思想，并通过模型化 Bernoulli - 高斯过程模型来建模每个决斗的赢家概率，从而允许在仅通过两两比较的方式来查询隐函数，并且相对于以往方法，该方法在寻找最大值过程中需要极少的比较。

    Apr, 2017

  • 稀疏轴向对齐子空间的高维贝叶斯优化

    基于高斯过程 surrogate 模型，利用 Hamiltonian Monte Carlo 进行推断，能够迅速识别与建模未知目标函数相关的空间稀疏子空间，实现高维贝叶斯优化 (Bayesian optimization) 中样本效率与性能的权衡。

    Feb, 2021