本文介绍了一种将高斯过程置信度边界和树形同时乐观的优化相结合的技术,以消除对收购功能辅助优化的需求,并且相比于其他方法更为有效。
Feb, 2014
本文提出了一种结合确定性方法和Bayesian优化概念的概率线性搜索算法,使用高斯过程代理优化目标,并使用Wolf条件的概率信念来监控下降,有效地消除了对随机梯度下降的学习率的定义。
Feb, 2015
将现有的确定性优化方法的结构与贝叶斯优化的概念相结合,构建了一种概率线搜索算法,用于处理只有随机渐变可以获得的情况,并有效地消除了定义随机梯度下降的学习率的需要。
Mar, 2017
本文研究带有非凸随机函数的随机非凸优化,并提出一种称为 NCG-S 的新型更新步骤,可以在高概率下实现二阶收敛,所提出的随机算法是首个具有高概率二阶收敛和几乎是线性时间复杂度的方法。
Oct, 2017
该论文提出了基于随机条件梯度方法的优化问题求解算法,用于解决大规模维度下的凸函数、连续子模型等多种问题,并证明了当问题维度高时,该方法较与传统的随机梯度下降法更加稳定,同时计算时间复杂度也得到了有效降低。
Apr, 2018
本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
Jul, 2018
本文介绍了贝叶斯优化的方法,通过建模替代函数和最大化收购功能来确定下一步查询的位置,同时考虑三种流行的收购功能的局部优化器的性能分析,并引入允许本地优化方法从多个不同的起始条件开始的分析,数值实验证实了我们的理论分析的有效性。
Jan, 2019
本文研究了一个后处理方法对贝叶斯优化的影响,该方法禁止数据集中存在重复样本,结果发现后处理方法显著降低了贝叶斯优化寻找全局最优解所需的顺序步骤的数量,特别是当求解函数采用最大后验估计的收益函数时,这为解决高维问题下贝叶斯优化的收敛速度慢提供了一种简单而普适的策略。
Sep, 2023
本文研究了基于 Markov 链采样的随机约束随机优化问题,将 drift-plus-penalty 方法推广至这一设置,提出了两种变体,分别适用于已知和未知混合时间的情况,同时适用于约束函数序列遵循 Markov 链的一般设置,通过在分类中引入公平约束的数值实验证明了我们所提方法的有效性。
Dec, 2023
本文研究了贝叶斯优化中采样点选择的有效性,指出标准的采集函数过于短视,未能考虑长期收益。提出了一种新的方法,通过有效估计采集函数及其梯度,实现了基于随机梯度的采样政策优化。研究结果表明,该方法能够显著提高采样效率,促进贝叶斯优化在复杂任务中的应用。
Aug, 2024