非齐方树状贝叶斯优化
采用拟贝叶斯优化的框架,通过利用简单的局部回归和随机化先验构建来量化不确定性,并保证收敛性,有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。
Oct, 2023
本文介绍一种基于 Beta 累积分布函数的自适应学习输入空间的方法,针对多任务贝叶斯优化问题,将多个任务共同映射为稳定的空间,实验结果表明,该方法可以大幅提升全局寻优的效率和准确性。
Feb, 2014
本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
Jul, 2018
本研究基于贝叶斯优化框架,建立高斯过程模型,通过前期实验获得的信息来优化机器学习算法的超参数调整,作者提出可以超过经验人类调参表现的自动算法,并介绍收集实验信息、利用多核心并行实验等新算法。
Jun, 2012
提出了一种自适应优化方法,用于调整随机模型预测控制 (MPC) 的超参数,同时基于性能奖励估计转换模型参数的概率分布。用异方差噪声模型开发贝叶斯优化算法来处理超参数和动力学模型参数空间中的噪声变化。试验结果表明我们的方法可以得到更高的累积回报和更稳定的控制器。
Mar, 2022
本文提出了一种基于预训练高斯过程先验的 Bayesian optimization 策略 HyperBO,为深度学习模型的超参数调整提供了一种有效的方法,该方法不需要专家知识即可自动设置先验概率分布,并可在多任务和复杂场景下有效优化模型性能。
Sep, 2021
该论文介绍了一种使用多任务高斯过程模型和克罗内克结构的精确采样技术的黑盒优化方法,可用于多个相关目标的优化,并可应用于涉及成千上万个相关输出的任务,从而实现了与现有方法相比较大的样本效率提高。
Jun, 2021