May, 2024

鲁棒熵搜索的安全高效贝叶斯优化

PDF
TL;DR通过开发高效的信息获取函数 Robust Entropy Search（RES），我们在合成数据和真实数据的实验中实证其优点，并展示了 RES 相对于最先进算法的优越性，从而解决了工程应用中贝叶斯优化（BO）的高采样效率和找到稳健解决方案的特殊要求，特别是在参数完全可控但在应用时部分参数不可控或甚至被干扰的对抗鲁棒性情况下。
bayesian optimizationengineering applicationsadversarial robustnessinformation-based acquisition functionstate-of-the-art algorithms
发现论文，激发创造
  • 高效鲁棒贝叶斯优化的噪声输入熵搜索

    该论文提出了一种名为 Noisy-Input Entropy Search 的信息理论采集函数，该函数基于将鲁棒性目标视为高斯过程的关键洞察，通过考虑输入和测量噪声来解决由于输入参数不确定性带来的问题，在基准测试问题和工程问题中展示了较高的性能表现并优于现有方法。

    Feb, 2020

  • 受限贝叶斯优化与最大值熵搜索

    本文提出了基于高斯过程的约束最大值熵搜索 (cMES) 并表明它比其他基于熵搜索的约束优化算法在真实约束优化问题上更简单更快速。

    Oct, 2019

  • 基于决策论熵的贝叶斯优化泛化

    本文提出一种基于 Sherman 逻辑的不确定性泛化度量，将它应用到贝叶斯优化中来表征不确定性，从而解决了当前信息理论 BO 算法无法考虑后续过程的问题，并且提出一个以此为基础的灵活的获取函数家族。最后，作者还开发了一种基于梯度的方法来高效优化它们，成功地解决了各种顺序决策任务中的优化问题。

    Oct, 2022

  • 贝叶斯优化的熵搜索组合

    本文提出了一种新的资产组合方法 —— 熵搜索组合（ESP），以解决 Bayesian 优化方法中的探索策略选择问题，并在实际和人工数据上的若干问题中证明了 ESP 方法的优越性和鲁棒性。

    Jun, 2014

  • 预测熵搜索用于黑箱函数的高效全局优化

    本文提出了一种基于信息论的贝叶斯优化方法 —— 预测性熵搜索（PES），PES 可以在全局最优值相对应的信息增益期望上选择下一个评估点，通过预测分布差异熵的期望减少来表示无法计算的获取函数，PES 可以获得比其他方法更准确和更有效的近似值，并且可以轻松进行完全贝叶斯处理，本文还对来自不同领域的数据进行了评估，结果显示 PES 增强了优化性能。

    Jun, 2014

  • 基于贝叶斯优化的可持续工艺系统灵活高效设计框架

    贝叶斯优化是一种强大的技术，可用于优化噪声大、昂贵难评估的黑箱函数，在科学、工程、经济、制造等领域具有广泛的实际应用。本文概述了贝叶斯优化在下一代过程系统设计中的最新进展、挑战和机遇，并介绍了如何利用高级贝叶斯优化方法更有效地解决这些应用中的重要问题。最后，我们总结了提高概率模型质量、选择下一个样本点的内部优化过程以及利用问题结构提高样本效率方面的挑战和机会。

    Jan, 2024

  • 任意不确定输入的高效鲁棒贝叶斯优化

    本文介绍了一种新颖的稳健贝叶斯优化算法 AIRBO，它可以在任意输入不确定性下有效地识别表现稳定良好的稳健最优解。我们的方法通过在高斯过程中使用最大均值差异 (MMD)，直接建模任意分布的不确定输入，并通过 Nystrom 近似加速后验推理，从而在 MMD 估计误差下建立了严格的理论遗憾界，并在合成函数和实际问题上进行了大量实验，证明了我们的方法可以处理各种输入不确定性并实现最先进的性能。

    Oct, 2023

  • 高效贝叶斯优化的最大值熵搜索

    提出一种新的最大值熵搜索（Max-value Entropy Search，MES）标准，用于提高贝叶斯优化方法的计算效率和实现遗憾界规范，该方法在高维问题上效率更高且性能良好。

    Mar, 2017

  • HypBO: 专家引导化学家参与贝叶斯搜索新材料

    机器人技术和自动化为解决材料发现等难以处理的多变量科学问题提供了巨大的加速，而巨大的搜索空间可能令人望而生畏。贝叶斯优化（BO）已成为一种流行的高效样本优化引擎，在目标函数 / 属性没有已知的解析形式的任务中蓬勃发展。本文利用专家人类假设的形式来更快地将贝叶斯搜索定向到化学空间的有前途的区域。我们提出的方法称为 HypBO，利用专家人类假设生成改进的样本种子。不太有希望的种子被自动折扣，而有希望的种子被用于增加代理模型数据，从而实现更有信息的抽样。这个过程在一个全局与局部搜索的框架中继续进行。我们在一系列合成函数上验证了我们方法的性能，并在一个真实的化学设计任务上展示了其实用性，其中使用专家假设显著加速了搜索性能。

    Aug, 2023

  • 输入噪声下的稳健多目标贝叶斯优化

    本文提出了一种新的多目标贝叶斯优化方法，旨在解决存在输入噪声的多目标优化问题，通过优化多维风险价值 (MVaR) 来产生适应噪声并能够满足多个指标要求的最优设计。

    Feb, 2022