非短视贝叶斯优化的政策区分
贝叶斯优化是一种采样高效的全局优化方法,采用获得函数(采购函数)来引导其搜索过程。本文利用Monte Carlo方法估计采购函数,证明其可进行梯度优化;我们还确定了一类通用的采购函数,包括EI和UCB,并证明我们可以使用贪心算法对其进行优化。
May, 2018
本文介绍了贝叶斯优化的方法,通过建模替代函数和最大化收购功能来确定下一步查询的位置,同时考虑三种流行的收购功能的局部优化器的性能分析,并引入允许本地优化方法从多个不同的起始条件开始的分析,数值实验证实了我们的理论分析的有效性。
Jan, 2019
本文介绍了一种基于贝叶斯优化,采用基于滚动学习策略搜索的方法,其中引入了以减少计算负担为目的的仿准蒙特卡罗、公共随机数和控制变量等技术,应用于多模态目标和模型误差的贝叶斯优化领域中。
Feb, 2020
提出了一种基于先验置信度的并将其纳入概率分布中的 PiBO(Bayesian optimization 的改进版),该算法可用于机器学习中的超参数优化,可以提高其效率并显著减少时间成本。
Apr, 2022
本文介绍了一种基于强化学习技术的数据驱动式采样函数选择策略,称为强化学习辅助贝叶斯优化(RLABO),用于高昂的黑盒优化问题,取得了具有竞争力和鲁棒性的优化效果。
Oct, 2022
本文提出一种基于Sherman逻辑的不确定性泛化度量,将它应用到贝叶斯优化中来表征不确定性,从而解决了当前信息理论BO算法无法考虑后续过程的问题,并且提出一个以此为基础的灵活的获取函数家族。最后,作者还开发了一种基于梯度的方法来高效优化它们,成功地解决了各种顺序决策任务中的优化问题。
Oct, 2022
模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法,只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中,我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。
Jan, 2024
设计了一种基于Wasserstein距离的准则来评估观测结果对未来预测的相关性,并利用该准则构建了一种名为W-DBO的动态贝叶斯优化算法,能够实时删除无关观测结果,从而在未知时间范围内的连续时间优化任务中同时具备良好的预测性能和高采样频率,实验证明W-DBO优于现有方法。
May, 2024
本文解决了传统随机编程中对非凸问题和昂贵黑箱优化方法的不足。作者采用贝叶斯优化,提出了一种基于知识梯度的获取函数,以联动优化两阶段变量,并证明了其渐近一致性。实验证明,该方法在有效性上优于标准的两步基准方案,展示了在不同问题维度和尺度下的优势。
Aug, 2024