批次贝叶斯优化
通过使用偏好反馈,我们构建了黑盒函数的置信区间,并提出了一种乐观算法,该算法具有有效的计算方法,并且在累积遗憾方面具有信息理论上的界限,从而使我们能够设计出具有收敛速率保证的估计最佳解决方案的方案。实验结果表明,我们的方法在高斯过程、标准测试函数和热舒适优化问题上都能稳定地达到更好或者有竞争力的性能,相比现有的启发式方法而言,我们的方法不仅拥有遗憾界限或收敛性的理论保证。
Feb, 2024
本文研究了贝叶斯优化在随机延迟反馈问题上的表现,提出了具有子线性遗憾保证的算法,并在批量 BO 和上下文高斯过程老虎机方面做出了新贡献。作者在合成和真实数据集上进行了实验证明了算法的性能。
Jun, 2022
本文研究了一种直接利用未知函数 argmax 估计值的优化策略,并与 GP-UCB 和 GP-PI 策略建立了紧密联系。该方法的自动适应调整探索和利用的权衡,在机器人和视觉任务的广泛实证评估中表现出鲁棒性,通过性能 - 遗憾的界限说明了自适应调整的效果。
Oct, 2015
本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
Jul, 2018
本文提出了一种基于贝叶斯神经网络的优化框架,专门针对数据密集型环境中多目标优化的局限性进行了优化,实现了对大量数据的有效处理和复杂问题的建模,并展示了其在航空动力学和彩色印刷两个领域的应用和有效性。
Jun, 2023
为了提高贝叶斯优化的性能,我们开发了一种改进的高斯过程 UCB 采集函数。通过从一个分布中采样探索开发权衡参数,我们证明这允许期望的权衡参数能更好地适应问题而不会影响函数贝叶斯遗憾的约束,并提供结果表明我们的方法在一系列真实和合成问题中比 GP-UCB 获得了更好的性能。
Jun, 2020
研究在 Bayeasian Optimization 中如何使用高斯过程作为后验估计器,并提出了一种混合算法,该算法基于当前状态在顺序策略和批处理策略之间动态切换,批处理策略具有可变的批次大小。本文给出了算法的理论并在八个基准 BO 问题上展示了实验结果。结果表明,相比纯顺序策略,该方法可以实现大幅度的加速(高达 % 78),而不会遭受任何显着的性能损失。
Feb, 2012
本研究基于贝叶斯优化框架,建立高斯过程模型,通过前期实验获得的信息来优化机器学习算法的超参数调整,作者提出可以超过经验人类调参表现的自动算法,并介绍收集实验信息、利用多核心并行实验等新算法。
Jun, 2012