通过概率重参数化实现离散和混合空间的贝叶斯优化
本文介绍了一种基于强化学习技术的数据驱动式采样函数选择策略,称为强化学习辅助贝叶斯优化(RLABO),用于高昂的黑盒优化问题,取得了具有竞争力和鲁棒性的优化效果。
Oct, 2022
通过使用偏好反馈,我们构建了黑盒函数的置信区间,并提出了一种乐观算法,该算法具有有效的计算方法,并且在累积遗憾方面具有信息理论上的界限,从而使我们能够设计出具有收敛速率保证的估计最佳解决方案的方案。实验结果表明,我们的方法在高斯过程、标准测试函数和热舒适优化问题上都能稳定地达到更好或者有竞争力的性能,相比现有的启发式方法而言,我们的方法不仅拥有遗憾界限或收敛性的理论保证。
Feb, 2024
本文提出了一个深度学习框架,基于具有随机先验的 bootstrap 整合的神经体系结构,用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系,测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。
Feb, 2023
采用拟贝叶斯优化的框架,通过利用简单的局部回归和随机化先验构建来量化不确定性,并保证收敛性,有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。
Oct, 2023
本研究针对基于贝叶斯优化的排列空间问题,提出了两种算法:BOPS-T 和 BOPS-H。两种算法均采用了高斯过程模型,BOPS-T 采用 Kendall 核函数和可处理的采集函数优化方法,BOPS-H 采用 Mallow 核函数和启发式搜索方法来优化期望改进采集函数。理论分析和实验表明,这两种算法在人工和实际基准测试中均优于同类问题的最先进的 BO 算法。
Dec, 2021
本文研究了贝叶斯优化中的采集函数建立方法,将多种常见采集函数转化为高斯积分以求优,最终用 Monte Carlo 估算器通过该 reparameterized 方法实现了高效并行优化选择。
Dec, 2017
本文提出了第一个无后悔的贝叶斯优化算法,它在没有核心参数的先验知识的情况下,可以收敛到最优点。通过在优化过程中逐步调整静态核的超参数并随时间扩展相关函数类,该算法可考虑更复杂的函数候选项。
Jan, 2019
通过限制搜索维度并利用本地高斯过程回归(LGPR)将贝叶斯优化(BO)扩展到更高维度,提高了预测准确性、搜索效率和高斯过程回归中的时间复杂度。在 20D Ackley 和 Rosenbrock 函数的评估中,搜索效率相比其他方法提高了约 69% 和 40%,并将该方法应用于功率半导体器件的自动设计任务,成功将特定导通电阻降低到传统方法的 25%以及没有 LGPR 的情况下的 3.4%。
Mar, 2024
本文介绍了一种名为 PBO 的新框架,它扩展了标准 BO 的思想,并通过模型化 Bernoulli - 高斯过程模型来建模每个决斗的赢家概率,从而允许在仅通过两两比较的方式来查询隐函数,并且相对于以往方法,该方法在寻找最大值过程中需要极少的比较。
Apr, 2017
模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法,只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中,我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。
Jan, 2024