基于路径的实用贝叶斯优化
贝叶斯优化是一种强大的技术,可用于优化噪声大、昂贵难评估的黑箱函数,在科学、工程、经济、制造等领域具有广泛的实际应用。本文概述了贝叶斯优化在下一代过程系统设计中的最新进展、挑战和机遇,并介绍了如何利用高级贝叶斯优化方法更有效地解决这些应用中的重要问题。最后,我们总结了提高概率模型质量、选择下一个样本点的内部优化过程以及利用问题结构提高样本效率方面的挑战和机会。
Jan, 2024
本文提出了将成本约束的 BO 建模为约束马尔科夫决策过程 (CMDP) 的方法,并开发了一个高效的滚动估计算法,以同时考虑成本和未来迭代次数。作者在超参数优化和传感器集选择中验证了他们的方法。
Jun, 2021
本文提出了两种新的并行贝叶斯优化(BO)范例,可利用设计空间的结构进行分区。其中,一种方法是按照性能函数的级集划分设计空间,另一种方法是利用性能函数的部分可分性结构。数值实验表明,这些方法可显著减少搜索所需时间,提高发现全局最优解(而非局部最优解)的概率。
Oct, 2022
本文提出了一个深度学习框架,基于具有随机先验的 bootstrap 整合的神经体系结构,用于贝叶斯优化和连续决策。该框架能够在高维输出的情况下逼近设计变量和感兴趣数量之间的函数关系,测试表明该方法在优化轮毂叶片的形状等高度复杂的任务中具有明显的优越性。
Feb, 2023
机器人技术和自动化为解决材料发现等难以处理的多变量科学问题提供了巨大的加速,而巨大的搜索空间可能令人望而生畏。贝叶斯优化(BO)已成为一种流行的高效样本优化引擎,在目标函数 / 属性没有已知的解析形式的任务中蓬勃发展。本文利用专家人类假设的形式来更快地将贝叶斯搜索定向到化学空间的有前途的区域。我们提出的方法称为 HypBO,利用专家人类假设生成改进的样本种子。不太有希望的种子被自动折扣,而有希望的种子被用于增加代理模型数据,从而实现更有信息的抽样。这个过程在一个全局与局部搜索的框架中继续进行。我们在一系列合成函数上验证了我们方法的性能,并在一个真实的化学设计任务上展示了其实用性,其中使用专家假设显著加速了搜索性能。
Aug, 2023
本文研究了在可以进行一系列干预的因果模型中全局优化感兴趣的变量的问题,提出了一种新算法 Causal Bayesian Optimization (CBO),结合了因果推断、不确定性量化和序贯决策等思想,同时考虑了经典的探索 - exploitation 与新型的观测 - intervention 的平衡,通过应用于不同场景中,显示出了该方法的优越性。
May, 2020
本文提出了一种新的多目标贝叶斯优化方法,旨在解决存在输入噪声的多目标优化问题,通过优化多维风险价值 (MVaR) 来产生适应噪声并能够满足多个指标要求的最优设计。
Feb, 2022
模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法,只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中,我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。
Jan, 2024
本文研究了贝叶斯优化在随机延迟反馈问题上的表现,提出了具有子线性遗憾保证的算法,并在批量 BO 和上下文高斯过程老虎机方面做出了新贡献。作者在合成和真实数据集上进行了实验证明了算法的性能。
Jun, 2022
通过使用偏好反馈,我们构建了黑盒函数的置信区间,并提出了一种乐观算法,该算法具有有效的计算方法,并且在累积遗憾方面具有信息理论上的界限,从而使我们能够设计出具有收敛速率保证的估计最佳解决方案的方案。实验结果表明,我们的方法在高斯过程、标准测试函数和热舒适优化问题上都能稳定地达到更好或者有竞争力的性能,相比现有的启发式方法而言,我们的方法不仅拥有遗憾界限或收敛性的理论保证。
Feb, 2024