基于约束贝叶斯优化的机器学习算法自动计算能量最小化
本文提出了将成本约束的 BO 建模为约束马尔科夫决策过程 (CMDP) 的方法,并开发了一个高效的滚动估计算法,以同时考虑成本和未来迭代次数。作者在超参数优化和传感器集选择中验证了他们的方法。
Jun, 2021
Cost Apportioned BO aims to minimize an objective function as efficiently as possible by combining a cost-effective initial design with a cost-cooled optimization phase, leading to better hyperparameter configurations than competing methods given the same cost budget.
Mar, 2020
通过理论和实践方面的研究,发现在拥有噪声的约束贝叶斯优化中,通过识别高置信度兴趣区域,相交这些区域得出最终兴趣区域,并利用平衡优化和可行区域识别的新型获取函数,为其性能获得严谨的理论证明。
Oct, 2023
贝叶斯优化是一种强大的技术,可用于优化噪声大、昂贵难评估的黑箱函数,在科学、工程、经济、制造等领域具有广泛的实际应用。本文概述了贝叶斯优化在下一代过程系统设计中的最新进展、挑战和机遇,并介绍了如何利用高级贝叶斯优化方法更有效地解决这些应用中的重要问题。最后,我们总结了提高概率模型质量、选择下一个样本点的内部优化过程以及利用问题结构提高样本效率方面的挑战和机会。
Jan, 2024
介绍了一种适用于解释性要求高场景下的基于正则化的 BO 方法(SEBO),以发现稀疏且解释性更高的配置。该方法使用一种基于连续同伦的可微松弛技巧,使其能够在直接处理 L0 正则化的同时实现目标优化和稀疏化探索,经过合成和真实世界问题的评估,证明这种方法能够有效优化稀疏化问题。
Mar, 2022
机器学习和黑盒优化之间的相互影响性及算法性能的比较研究:基于机器学习和黑盒优化的算法在有限预算下具有较好性能,但随着预算增加,其他算法家族通常表现更好。
Sep, 2023
本文提出了一种基于贝叶斯优化的方法,该方法可以利用学习算法的迭代结构来有效地调整超参数。在深度强化学习和卷积神经网络训练中,我们的算法通过选择最佳超参数的方式,以最小时间成本实现了调优。
Sep, 2019
模拟基于贝叶斯优化 (SBBO) 是一种用于优化黑盒函数的新方法,只需要通过基于采样的后验预测分布进行访问。该方法允许在涉及组合空间和离散变量的情况下使用适用于组合空间的概率代理模型。在组合优化的应用中,我们通过使用不同的代理模型在实证上证明了 SBBO 方法的有效性。
Jan, 2024