基于贝叶斯的梯度和赌博机学习统一加速全局优化
本文采用一种简单的后验抽样算法来平衡探索和利用学习优化操作,称为 Thompson Sampling,理论上提出了后验抽样与 UCB 算法的联系,并提供了一个广泛适用且可以专门针对许多模型类进行特化的后验抽样贝叶斯遗憾界。
Jan, 2013
本文研究了一种直接利用未知函数argmax估计值的优化策略,并与GP-UCB和GP-PI策略建立了紧密联系。该方法的自动适应调整探索和利用的权衡,在机器人和视觉任务的广泛实证评估中表现出鲁棒性,通过性能-遗憾的界限说明了自适应调整的效果。
Oct, 2015
本文提出了一种新的贝叶斯优化算法,它利用导数信息来降低目标函数评估的数量,可以适用于包括逐步和批量形式在内的嘈杂和不完整的导数信息,并且可以自动选择保留方向导数以减少推论的计算成本,该算法在众多优化过程中表现出最新的状态性能。
Mar, 2017
本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
Jul, 2018
本文介绍了贝叶斯优化的方法,通过建模替代函数和最大化收购功能来确定下一步查询的位置,同时考虑三种流行的收购功能的局部优化器的性能分析,并引入允许本地优化方法从多个不同的起始条件开始的分析,数值实验证实了我们的理论分析的有效性。
Jan, 2019
提出了一种基于混合类型空间的新方法CoCaBO,它结合了多臂赌博机和贝叶斯优化的优点,使用高斯过程核来对包含连续和分类输入的黑盒问题进行优化,实现了在探索和开发之间的平衡,并在连续和分类输入的合成和实际优化任务上超越了现有方法。
Jun, 2019
本文提出了一种名为 TuRBO 的算法来解决高维问题的全局优化,该算法利用一系列局部模型,通过隐式赌博方法对这些模型之间的样本进行原则性的全局分配,并在强化学习、机器人学和自然科学领域的问题上显著优于其他现有方法。
Oct, 2019
本研究提出了一种基于在线随机梯度下降的广义线性赌博机算法,它使用单步SGD更新来利用过去的信息并使用汤普森抽样实现探索,能够在探索与利用之间取得平衡,在合成和实际数据集上始终优于现有算法,其总时间复杂度为T和d的线性比例,其中T是总轮次数,d是特征数量,并实现了O(T)的遗憾,其中T是回合数。
Jun, 2020
本文提出一种结合局部优化与定制内核设计的新型解决方案,有效应对高维分类和混合搜索空间,同时保留样本效率,经实验证明在性能、计算成本等方面优于当前基准。
Feb, 2021