使用效用校准变分推断框架,我们修改了稀疏变分高斯过程方法以更好地满足贝叶斯优化的目标,从而确保在计算预算有限的情况下做出最佳决策。我们的方法适用于任何决策理论获得函数,并且与 TuRBO 等信任区域方法兼容。在标准和批量贝叶斯优化设置中,我们为预期改进和知识梯度获得函数导出了高效的联合目标。我们的方法在控制和分子设计的高维基准任务上优于标准的稀疏变分高斯过程方法。
Jun, 2024
模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法,只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中,我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。
Jan, 2024
通过使用偏好反馈,我们构建了黑盒函数的置信区间,并提出了一种乐观算法,该算法具有有效的计算方法,并且在累积遗憾方面具有信息理论上的界限,从而使我们能够设计出具有收敛速率保证的估计最佳解决方案的方案。实验结果表明,我们的方法在高斯过程、标准测试函数和热舒适优化问题上都能稳定地达到更好或者有竞争力的性能,相比现有的启发式方法而言,我们的方法不仅拥有遗憾界限或收敛性的理论保证。
Feb, 2024
本研究针对基于贝叶斯优化的排列空间问题,提出了两种算法:BOPS-T 和 BOPS-H。两种算法均采用了高斯过程模型,BOPS-T 采用 Kendall 核函数和可处理的采集函数优化方法,BOPS-H 采用 Mallow 核函数和启发式搜索方法来优化期望改进采集函数。理论分析和实验表明,这两种算法在人工和实际基准测试中均优于同类问题的最先进的 BO 算法。
Dec, 2021
本文提出了一种新的贝叶斯优化方法 BE-CBO,通过有效地探索可行设计和不可行设计之间的边界来识别约束条件,并通过综合实验在合成和实际基准测试中展示出卓越的性能。
提出一种在高维搜索空间里实现参数选择的贝叶斯优化方法,其中使用高斯过程作为代理模型,通过在边界处添加虚拟导数观测值的方式优化搜索空间的探索,实现了对机器学习算法配置等问题的目标函数进行全局优化的目的。
Apr, 2017
本文提出了一个深度学习框架,基于具有随机先验的 bootstrap 整合的神经体系结构,用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系,测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。
Feb, 2023
本文提出了一种新的基于加性模型的贝叶斯优化算法,可以高效地处理存在重叠子集的高维函数优化问题,并通过图上的信息传递算法优化其采集函数,同时提出了通过 Gibbs 抽样学习其结构的算法,实验证明该方法在合成数据和真实数据上都具有良好效果。
Feb, 2018
将 expected improvement 的计算转化为二分类问题,以避免分析可观测性和提高 Bayesian optimization 的效率和适用性。
Feb, 2021
本文介绍了一种基于密度比估计的贝叶斯优化方法,能够使用概率二元分类器代替函数上的先验,从而增强可扩展性与性能保证,并将问题重新形式化为近似贝叶斯推理,也能扩展至批优化问题中。该方法在一些实验中与其他基线方法进行了评估。
Sep, 2022