使用一种基于知识梯度获取函数关系网的新方法,使得节点评估和输入选择可以根据成本进行,从而降低了查询成本并在多个合成和真实问题中优于现有的函数网络方法和其他基准。
Nov, 2023
本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
Jul, 2018
本文介绍了一种将高斯过程置信度边界和树形同时乐观的优化相结合的技术,以消除对收购功能辅助优化的需求,并且相比于其他方法更为有效。
Feb, 2014
贝叶斯优化是一种采样高效的全局优化方法,采用获得函数(采购函数)来引导其搜索过程。本文利用 Monte Carlo 方法估计采购函数,证明其可进行梯度优化;我们还确定了一类通用的采购函数,包括 EI 和 UCB,并证明我们可以使用贪心算法对其进行优化。
May, 2018
本文介绍了贝叶斯优化的方法,通过建模替代函数和最大化收购功能来确定下一步查询的位置,同时考虑三种流行的收购功能的局部优化器的性能分析,并引入允许本地优化方法从多个不同的起始条件开始的分析,数值实验证实了我们的理论分析的有效性。
Jan, 2019
本文提出了一种灵活的图贝叶斯优化框架,结合了图内核,通过识别优化过程中哪些特征更重要来完全利用隐含的图结构特征并证明了其有效性和潜在应用。
我们提出了一种新的贝叶斯优化框架,通过学习适当的图核心,我们的框架具有适应目标函数行为的优点,本地建模方法进一步保证了我们方法的效率。
Jun, 2023
采用拟贝叶斯优化的框架,通过利用简单的局部回归和随机化先验构建来量化不确定性,并保证收敛性,有效地优化高维度的综合实验、超参数调整和机器人应用的例子中胜过最先进的基准测试。
Oct, 2023
本文研究如何使用神经网络作为替代高斯过程的方法建立函数分布模型,以实现高效的贝叶斯优化方法并应用于大规模超参数优化,通过卷积网络和神经语言模型在基准目标识别任务和图像描述生成方面实现了优异的效果。
Feb, 2015
我们提出了一种改进的 EI 方法,通过引入高斯过程模型提供的协方差信息,修正了传统的 EI 公式,以达到在有噪声和无噪声的情况下都具有较好泛化性能的目的。我们的实验证明,在黑盒优化的基准函数和神经网络模型压缩的参数搜索中,我们提出的方法在存在噪声观测时能够胜过 EI 方法。