通过将搜索空间转换为相互连接的单元，并顺序地搜索这些单元，然后对整个网络的上述搜索进行多次循环以减小先前单元对后续单元的影响，我们提出了 Multiple Population Alternate Evolution Neural Architecture Search（MPAE）这一新颖的神经网络架构搜索范式，并在迁移归档中建立出色的迁移档案，并将其中的优秀知识和经验传递给新的群体，从而加速种群进化过程，该方法仅需要 0.3 GPU 天即可在 CIFAR 数据集上搜索神经网络，并达到了最先进的结果。

Mar, 2024

Efficient Natural Evolution Strategies (eNES) using natural gradient and Fisher information matrix increases evolution gradient estimation robustness and performance for optimal fitness baselines in updating population with competitive results on unimodal and multimodal benchmarks.

Sep, 2012

该论文提出了一种通用的异步评估策略 (AES)，并将其适应于 Evolutionary neural architecture search (ENAS)，通过维护一个队列，以便在工人进行评估后尽快进入下一代，从而提高了吞吐量，并在多个问题中观察到了多倍性能改善。

Aug, 2023

本文介绍一种基于神经预测器的进化算法（NPENAS）用于增强 NAS 的探索能力，设计了两种神经预测器，其中一种是基于贝叶斯优化的不确定性估计网络，另一种是直接输出输入神经结构性能预测的基于图的神经网络。大量实验表明，使用这种方法的 NPENAS 优于大多数现有的 NAS 算法.

Mar, 2020

ENAS 提出了高效神经架构搜索方法，使用控制器在大型计算图中发现神经网络架构，以优化子图为目标进行训练，利用共享子模型参数，使用的 GPU-hours 要比所有现有的自动模型设计方法少 1000 倍，设计出实现最新技术水平的新型结构。

Feb, 2018

我们提出了一种基于叠加单元的神经网络结构搜索的两阶段进化方法（TS-ENAS），包括基于堆叠单元的一阶段搜索和对这些单元进行调整的二阶段。在算法中，我们设计了一种新的基于单元的搜索空间和一种有效的两阶段编码方法来表示单元和神经网络结构。此外，我们设计了一种基于单元的权重继承策略来初始化网络的权重，这显著减少了算法的运行时间。我们在四个图像分类数据集 Fashion-MNIST、CIFAR10、CIFAR100 和 ImageNet 上对所提出的方法进行了广泛的测试和比较，并与包括手工设计网络和 NAS 网络在内的 22 个最新算法进行了比较。实验结果表明，TS-ENAS 能更有效地找到性能相当的神经网络结构。

Oct, 2023

本文介绍了一种称为 EENA 的有效神经体系结构搜索方法，该方法通过精心设计的变异和交叉操作进行演化，可以在较少的计算资源下，显著降低搜索和训练时间，并设计出在 CIFAR-10 数据集上效果显著的神经体系结构。

May, 2019

本论文提出一种高效的连续演化方法用于搜索神经网络，该方法在优化神经网络的同时，使用优化后的神经网络在下一次的演化中，大大地加速了网络生成的效率。实验表明，该方法产生的神经网络在 mobile 设置下，参数数量在 3.7M 到 5.1M 之间不等，在 ImageNet 数据集上的表现超过了目前已有的先进方法。

Sep, 2019

本文提出了一种名为自然进化策略（NES）的算法，它是一种比传统进化算法更为规范的黑盒优化方法。NES 在候选解集上维护一个参数化的分布，使用自然梯度来更新分布的参数，以求解更高预期的适应度值。本文介绍了一系列技术，解决了关于收敛、稳健性、样本复杂度、计算复杂度和对超参数的敏感性等问题。对于全局优化和高维空间搜索，从通用的多元正态分布到重尾和可分布的分布，本文探讨了 NES 系列的多种实现。实验结果显示，NES 表现良好，达到了各种标准基准测试的最佳性能。

Jun, 2011

本文研究了神经架构搜索算法 Efficient NAS 对数据毒化攻击的鲁棒性，通过注入无效操作到搜索空间中，我们展示了一次性搜索空间毒化方法如何利用 ENAS 控制器中的设计缺陷，降低分类任务中预测性能，只需向搜索空间注入两个毒化操作即可使得子网络在 CIFAR-10 数据集上的预测错误率增加高达 90%。

Nov, 2021