我们提出了一种名为 LogEI 的新型收敛函数家族，其成员在数值优化方面比标准收敛函数更容易操作，能够显著提升优化性能，并与最新的收敛函数表现相媲美或超越，突显了数字优化在文献中的被低估作用。

Oct, 2023

我们提出了一种改进的 EI 方法，通过引入高斯过程模型提供的协方差信息，修正了传统的 EI 公式，以达到在有噪声和无噪声的情况下都具有较好泛化性能的目的。我们的实验证明，在黑盒优化的基准函数和神经网络模型压缩的参数搜索中，我们提出的方法在存在噪声观测时能够胜过 EI 方法。

Oct, 2023

本文借鉴目前在多点预期收益（Expected Improvement，EI）准则上的最新工作，从 EI 的梯度角度出发，推导出一种闭合表达式，旨在利用基于梯度的上升算法，方便 EI 的最大化，并显示了在应用中的实质性计算节省。 结合基于 UCB 的起始设计和基于梯度的 EI 本地优化，在分布式高斯过程优化的批量设计中最终呈现出一个可行的选择。

Mar, 2015

本研究提出了一种用于高维贝叶斯优化的期望坐标改进准则，该方法通过选择具有最高期望坐标改进值的坐标进行优化，逐渐覆盖所有坐标，从而有效解决了高维贝叶斯优化中凸函数选择的问题，并在数值实验中展现出优于传统贝叶斯优化和五种先进高维贝叶斯优化算法的竞争性结果。

Apr, 2024

通过变分推理（VI）的方法，将 Expected Improvement（EI）视为最大值熵搜索（MES）的特例，发展了变分熵搜索（VES）方法和 VES-Gamma 算法，将信息论概念融入 EI 中，展示了 VES-Gamma 在贝叶斯优化中的理论和实践效用。

Feb, 2024

改进的知识梯度（iKG）算法通过选择产生在选择最佳臂的概率的一步改进最大的度量，提供了知识梯度（KG）算法的一个修复方案，并且可以被证明是渐近最优的。

Oct, 2023

将 expected improvement 的计算转化为二分类问题，以避免分析可观测性和提高 Bayesian optimization 的效率和适用性。

Feb, 2021

通过选取最优的高斯过程先验，构建相应函数空间，提出的多个方法可以最小化某个函数的未知性，包括连续自适应边界算法和高斯过程基本概念，最优化方法如期望改进和随机搜索算法等。

Jan, 2011

该研究提出了一种修改后的 EIG 最大化目标函数，称之为 REIG，并利用其在近似 KL - 散度的先验概率分布的模糊区间内最小化关于 EIG 的仿射松弛。研究表明，当与基于采样的 EIG 估计相结合时，REIG 对可估计量的变异性也进行了补偿。

May, 2022

为了实现贝叶斯推理的最佳实验条件，本研究提出了两种估计信息增益梯度的方法：UEEG-MCMC 通过马尔科夫链蒙特卡罗生成后验样本来估计信息增益梯度，而 BEEG-AP 通过反复使用参数样本以实现高模拟效率。理论分析和数值研究表明，在实际信息增益值方面，UEEG-MCMC 具有较强的鲁棒性，而当待优化的信息增益值较小时，BEEG-AP 更加高效。此外，在数值实验中，与几种常用基准方法相比，这两种方法都表现出了更优越的性能。

Aug, 2023