通过核密度估计的未知连续上下文分布的随机贝叶斯优化
本文提出了第一个无后悔的贝叶斯优化算法,它在没有核心参数的先验知识的情况下,可以收敛到最优点。通过在优化过程中逐步调整静态核的超参数并随时间扩展相关函数类,该算法可考虑更复杂的函数候选项。
Jan, 2019
本文研究了贝叶斯优化在随机延迟反馈问题上的表现,提出了具有子线性遗憾保证的算法,并在批量 BO 和上下文高斯过程老虎机方面做出了新贡献。作者在合成和真实数据集上进行了实验证明了算法的性能。
Jun, 2022
本文提出了一种新颖的混合贝叶斯优化方法,通过扩散核对离散和连续变量建模,证明了其拥有普适逼近性质,并在合成数据和六个不同领域的实验中证明了其显著优于现有方法的优越性。
Jun, 2021
本文提出了一个深度学习框架,基于具有随机先验的 bootstrap 整合的神经体系结构,用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系,测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。
Feb, 2023
将 expected improvement 的计算转化为二分类问题,以避免分析可观测性和提高 Bayesian optimization 的效率和适用性。
Feb, 2021
本文提出了一种处理高维黑盒函数优化挑战的方法 —— 通过 (1) 推断函数的潜在加法结构以进行更加高效和有效的贝叶斯优化,(2) 并行进行多次评估以减少方法所需的迭代次数。通过 Gibbs 抽样学习潜在结构,并使用定向点过程构建批量查询。实验结果证明,该方法优于现有技术。
Mar, 2017
为优化分类和类别特定连续变量定义的真实世界函数,提出了一种将问题规定为多臂赌博问题的新方法,其中每个类别对应于一个臂,其奖励分布以连续变量中的目标函数最优点为中心。
Nov, 2019
贝叶斯优化是一种强大的技术,可用于优化噪声大、昂贵难评估的黑箱函数,在科学、工程、经济、制造等领域具有广泛的实际应用。本文概述了贝叶斯优化在下一代过程系统设计中的最新进展、挑战和机遇,并介绍了如何利用高级贝叶斯优化方法更有效地解决这些应用中的重要问题。最后,我们总结了提高概率模型质量、选择下一个样本点的内部优化过程以及利用问题结构提高样本效率方面的挑战和机会。
Jan, 2024
本文提出了一种基于高斯过程模型及概率分布的上置信区间算法来解决 Bayesian 优化问题中同时考虑查询结果和查询位置不确定性的问题,并在模拟合成和真实数据等场景中对比了该算法与传统 UCB 算法以及其他考虑输入噪声的 BO 算法的实验表现。
Feb, 2019
本论文提出了一种新的使用多臂老虎机技术的贝叶斯优化方法,采用新型训练损失函数进行高斯过程超参数估计,以确保无偏估计,从而使其即使在未知真实超参数的情况下,也可以亚线性地收敛到目标函数的全局最优点。
Jun, 2023