多个连续和分类输入上的贝叶斯优化

Jun, 2019

多个连续和分类输入上的贝叶斯优化

Bayesian Optimisation over Multiple Continuous and Categorical Inputs

Binxin Ru, Ahsan S. Alvi, Vu Nguyen, Michael A. Osborne, Stephen J Roberts

TL;DR提出了一种基于混合类型空间的新方法 CoCaBO，它结合了多臂赌博机和贝叶斯优化的优点，使用高斯过程核来对包含连续和分类输入的黑盒问题进行优化，实现了在探索和开发之间的平衡，并在连续和分类输入的合成和实际优化任务上超越了现有方法。

Abstract

Efficient optimisation of black-box problems that comprise both continuous and categorical inputs is important, yet poses significant challenges. We propose a new approach, Continuous and Categorical Bayesian Optimisation (CoCaBO), which combines the strengths of multi-armed bandits an

continuous inputs categorical inputs bayesian optimization gaussian process kernel batch setting

发现论文，激发创造

基于贝叶斯优化的分类和类别特定连续输入

为优化分类和类别特定连续变量定义的真实世界函数，提出了一种将问题规定为多臂赌博问题的新方法，其中每个类别对应于一个臂，其奖励分布以连续变量中的目标函数最优点为中心。

Nov, 2019

全球思维，本地行动：基于贝叶斯优化的高维分类和混合搜索空间

本文提出一种结合局部优化与定制内核设计的新型解决方案，有效应对高维分类和混合搜索空间，同时保留样本效率，经实验证明在性能、计算成本等方面优于当前基准。

Feb, 2021

使用高斯过程在贝叶斯优化中处理类别变量和整数值变量

该研究提出了更准确处理分类变量和整数值变量的方法，以改进使用高斯过程的贝叶斯优化方法在这些问题上的结果表现。

May, 2018

具连续逼近的多精度贝叶斯优化

本文提出了一种基于 Bayesian 优化的多保真度方法 BOCA，并通过理论分析和实验展示了其在神经网络调优等任务上的优越性。

Mar, 2017

混合空间上的贝叶斯优化

本文提出了一种新颖的混合贝叶斯优化方法，通过扩散核对离散和连续变量建模，证明了其拥有普适逼近性质，并在合成数据和六个不同领域的实验中证明了其显著优于现有方法的优越性。

Jun, 2021

不确定输入下的贝叶斯优化

本文提出了一种基于高斯过程模型及概率分布的上置信区间算法来解决 Bayesian 优化问题中同时考虑查询结果和查询位置不确定性的问题，并在模拟合成和真实数据等场景中对比了该算法与传统 UCB 算法以及其他考虑输入噪声的 BO 算法的实验表现。

Feb, 2019

通过核密度估计的未知连续上下文分布的随机贝叶斯优化

使用贝叶斯优化方法，利用核密度估计来在线学习连续环境变量的概率密度函数，提出了两个算法来优化函数在未知分布下的期望，实验证明这两个算法的效果有效。

Dec, 2023

混合变量的贝叶斯优化

本文介绍了一种新型的 Bayesian optimization（MiVaBo 算法），并且通过优化获取函数，在 mixed-variable 函数的优化过程中使其成为第一个能够处理离散变量复杂约束的 BO 方法，并提供了混合变量 BO 算法的第一个收敛分析，最后在多个具有超参数的调优任务中显示出 MiVaBo 显着比最先进的混合变量 BO 算法具有更高的样本效率，对于深度生成模型的优化更是如此。

Jul, 2019

高维空间中的批量大规模贝叶斯优化

本文提出了一种基于集成高斯过程模型的贝叶斯优化算法（EBO），以解决黑盒函数优化问题中大规模观测、高维输入空间和批量查询质量与多样性平衡等三大挑战。结果表明，EBO 能在几分钟内扩展到数万次观测，同时取得了前所未有的优化效果。

Jun, 2017

高维贝叶斯优化离散序列的调查与基准

通过统一的框架和标准化的黑盒函数，针对化学和生物学的实际应用领域，该论文研究了贝叶斯优化的高维优化方法和技术难点，并提供了易于拓展的软件库，以方便实践者更好地应用于离散优化问题。

Jun, 2024