Jun, 2014

预测熵搜索用于黑箱函数的高效全局优化

PDF
TL;DR本文提出了一种基于信息论的贝叶斯优化方法 —— 预测性熵搜索（PES），PES 可以在全局最优值相对应的信息增益期望上选择下一个评估点，通过预测分布差异熵的期望减少来表示无法计算的获取函数，PES 可以获得比其他方法更准确和更有效的近似值，并且可以轻松进行完全贝叶斯处理，本文还对来自不同领域的数据进行了评估，结果显示 PES 增强了优化性能。
bayesian optimizationpredictive entropy searchinformation theorymachine learningoptimization performance
发现论文，激发创造
  • 高效贝叶斯优化的最大值熵搜索

    提出一种新的最大值熵搜索（Max-value Entropy Search，MES）标准，用于提高贝叶斯优化方法的计算效率和实现遗憾界规范，该方法在高维问题上效率更高且性能良好。

    Mar, 2017

  • 昂贵目标函数批量全局优化的并行预测熵搜索

    本文介绍一种名为平行预测熵搜索 (PPES) 的新型算法，用于贝叶斯优化昂贵的黑匣子目标函数，并通过机器学习、火箭科学、机器人等领域的案例研究，展示了其批处理选择策略的优化表现。

    Nov, 2015

  • 一种基于信息搜索的约束贝叶斯优化通用框架

    本研究提出了信息理论框架，以解决具有黑盒约束条件的全局黑盒优化问题，并开发了一种预测熵搜索策略以解决解耦约束条件问题，在几个人工合成及实际问题中进行了改进比较，为有快慢函数评估的问题提出了平衡 PESC 元计算和目标计算时间的部分更新算法，并提出了自适应切换部分和完整更新版本来插值，PESC 为约束贝叶斯优化提供了一种统一的有效算法方向。

    Nov, 2015

  • 具有未知约束的贝叶斯优化的预测熵搜索

    本文提出一种名为具有约束的预测熵搜索（PESC）的基于信息的方法，旨在解决使用贝叶斯优化的期望改进启发式算法遇到的路径 ologies，并分析其在合成、基准和真实世界实例中表现优于基于 EI 的方法，展示其是一种有效的算法，为约束贝叶斯优化提供了一种有前途的解决方案。

    Feb, 2015

  • 基于约束条件的多目标贝叶斯优化的预测熵搜索

    本文提出一种名为 PESMOC 的基于信息的策略，用于同时优化多个昂贵的黑盒函数，并考虑多个限制条件，该策略可用于解决多种优化问题。实验结果表明，相对于随机搜索策略，PESMOC 能够在较少的评估次数下提供更好的建议。

    Sep, 2016

  • 贝叶斯优化的熵搜索组合

    本文提出了一种新的资产组合方法 —— 熵搜索组合（ESP），以解决 Bayesian 优化方法中的探索策略选择问题，并在实际和人工数据上的若干问题中证明了 ESP 方法的优越性和鲁棒性。

    Jun, 2014

  • 信息效率全局优化的熵搜索

    本文提出概率优化算法的期望，引入一种基于逼近和明确地址决策问题的具体算法以解决计算上的难题。

    Dec, 2011

  • 变分熵搜索用于调整预期改进

    通过变分推理（VI）的方法，将 Expected Improvement（EI）视为最大值熵搜索（MES）的特例，发展了变分熵搜索（VES）方法和 VES-Gamma 算法，将信息论概念融入 EI 中，展示了 VES-Gamma 在贝叶斯优化中的理论和实践效用。

    Feb, 2024

  • 带约束的多目标贝叶斯优化的最大值熵搜索

    提出一种名为 MESMOC 的新方法来解决大规模设计问题的优化，通过使用输出空间熵的获得函数，选择评估输入序列来发现高质量的帕累托集解决方案同时满足约束条件。

    Sep, 2020

  • 高效鲁棒贝叶斯优化的噪声输入熵搜索

    该论文提出了一种名为 Noisy-Input Entropy Search 的信息理论采集函数，该函数基于将鲁棒性目标视为高斯过程的关键洞察，通过考虑输入和测量噪声来解决由于输入参数不确定性带来的问题，在基准测试问题和工程问题中展示了较高的性能表现并优于现有方法。

    Feb, 2020