本文提出了一种名为自然进化策略（NES）的算法，它是一种比传统进化算法更为规范的黑盒优化方法。NES 在候选解集上维护一个参数化的分布，使用自然梯度来更新分布的参数，以求解更高预期的适应度值。本文介绍了一系列技术，解决了关于收敛、稳健性、样本复杂度、计算复杂度和对超参数的敏感性等问题。对于全局优化和高维空间搜索，从通用的多元正态分布到重尾和可分布的分布，本文探讨了 NES 系列的多种实现。实验结果显示，NES 表现良好，达到了各种标准基准测试的最佳性能。

Jun, 2011

Efficient Natural Evolution Strategies (eNES) using natural gradient and Fisher information matrix increases evolution gradient estimation robustness and performance for optimal fitness baselines in updating population with competitive results on unimodal and multimodal benchmarks.

Sep, 2012

本论文探讨了使用 Natural evolutionary strategies 方法优化处理处于梯度消失区域的随机初始化的带参数的量子电路。研究者们使用了 NES 梯度估算器来缓解方差的指数下降。他们在两种不同的问题中使用了两种特定的优化方法，并将其与标准梯度下降进行了比较。在所有这些情况下，他们的实验结果表明，使用 NES 方法可以在较少的电路评估次数下实现与现有优化技术相当的准确性，从而将 NES 方法作为与其他基于梯度的方法协同工作的混合工具来优化零梯度区域中的深度量子电路。

Nov, 2020

该研究论文展示了演化策略在学习大型监督模型的非可微参数方面的优越性，尤其是当模型具有百万维参数时，该方法的竞争能力非常出色。这种方法允许瘦模型从第一步开始就可以训练，非常适合于大算力场景。

Jun, 2019

本文介绍了用于优化黑盒函数的 Evolutionary Strategies 结合组合优化器的 ES-ENAS 算法，显著提高了采样效率并成功应用于强化学习架构搜索。

Jan, 2021

零阶优化利用零阶查询近似一阶和二阶信息的理论研究较少，本文提出了一种重新参数化的目标函数，通过小干扰在极小值点和原始目标函数的 Hessian 逆之间达到极值，并提出了 MiNES 算法来最小化该目标函数，证明了该算法的协方差矩阵估计收敛至目标函数的 Hessian 矩阵的逆，并给出了收敛速率和协方差矩阵如何促进收敛速率。

Aug, 2023

本文提出了一种新的在线进化策略 —— 噪声 - 重复利用进化策略（NRES），并在多种应用中进行了实验。结果表明，相对于现有的自动微分和进化策略方法，NRES 在壁钟速度和总展开步数方面的收敛速度更快。

Apr, 2023

本文使用 Nesterov 的平滑技术和 Legendre-Fenchel 变换将贝尔曼方程式重新构成一个新的原始对偶优化问题，并开发了一个名为平滑贝尔曼误差嵌入的新算法来解决这个优化问题，其中可以使用任何可微分类函数。我们提供了通用非线性函数逼近的第一个收敛保证，并分析了算法的样本复杂度。经验上，我们的算法在几个基准控制问题中与最先进的基准线相比表现得非常好。

Dec, 2017

研究了一个名为 NASA 的算法，在约束嵌套随机优化问题中，通过估计梯度来找到近似的稳定点，并使用特殊 Lyapunov 函数证明了该算法的样本复杂度为 O (1/ε²)，同时提出了简化版 NASA 算法来解决约束单层随机优化问题。

Dec, 2018

使用黑盒优化算法 —— 进化策略，替代流行的基于 MDP 的 RL 技术，通过 MuJoCo 和 Atari 上的实验表明，ES 是一种可行的解决策略，随着可用 CPU 数量的增加而呈线性规模，同时 ES 具有不变性、容差性以及无需强化学习概念的优越性。

Mar, 2017