本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
Jul, 2018
本文介绍了贝叶斯优化的方法,通过建模替代函数和最大化收购功能来确定下一步查询的位置,同时考虑三种流行的收购功能的局部优化器的性能分析,并引入允许本地优化方法从多个不同的起始条件开始的分析,数值实验证实了我们的理论分析的有效性。
Jan, 2019
采用拟贝叶斯优化的框架,通过利用简单的局部回归和随机化先验构建来量化不确定性,并保证收敛性,有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。
Oct, 2023
该论文介绍了一种使用多任务高斯过程模型和克罗内克结构的精确采样技术的黑盒优化方法,可用于多个相关目标的优化,并可应用于涉及成千上万个相关输出的任务,从而实现了与现有方法相比较大的样本效率提高。
Jun, 2021
贝叶斯优化是一种采样高效的全局优化方法,采用获得函数(采购函数)来引导其搜索过程。本文利用 Monte Carlo 方法估计采购函数,证明其可进行梯度优化;我们还确定了一类通用的采购函数,包括 EI 和 UCB,并证明我们可以使用贪心算法对其进行优化。
May, 2018
本文提出了一种名为 TuRBO 的算法来解决高维问题的全局优化,该算法利用一系列局部模型,通过隐式赌博方法对这些模型之间的样本进行原则性的全局分配,并在强化学习、机器人学和自然科学领域的问题上显著优于其他现有方法。
Oct, 2019
本文提出了一种利用高斯过程来建模网络节点并以期望改进作为收获函数的贝叶斯最优化方法,通过利用网络中的中间输出信息,实现了比标准方法更高的查询效率和渐进一致性,并在多个合成和实际问题中表现出优异性能。
Dec, 2021
本研究提出了一种新的贝叶斯优化框架,用于考虑输入不确定性的多目标优化,包括鲁棒性的量化和搜索一个鲁棒的帕累托前沿,并通过数值基准测试证明了其有效性。
Feb, 2022
本文通过采用在线多臂赌博策略,采用多种参数化的收购功能组合(其中最佳的是 GP-Hedge),优于使用单一收购方法,提高了排序算法的性能,并提供了算法性能的理论界限。
Sep, 2010
本论文提出了一种新的使用多臂老虎机技术的贝叶斯优化方法,采用新型训练损失函数进行高斯过程超参数估计,以确保无偏估计,从而使其即使在未知真实超参数的情况下,也可以亚线性地收敛到目标函数的全局最优点。
Jun, 2023