本研究通过研究现有的代理方法中排名稳定性的差异，提出了一种可靠的代理策略和层次化代理策略，在保持搜索质量的同时缩减了 400 倍的搜索时间，并且这些新的代理方法也可以应用于其他神经结构搜索算法中。

Jan, 2020

本篇论文提出了 ProxylessNAS 方法，它能够在大规模的目标任务和硬件平台上直接学习网络结构，缩减计算成本并提供了一种高效的 CNN 网络结构设计方法。实验结果表明，ProxylessNAS 可以在 CIFAR-10 和 ImageNet 数据集上超越以前的最优架构，并提供了硬件性能的定制化。

Dec, 2018

在这篇文章中，我们提出了一种新颖的轻量级鲁棒性零成本代理，该代理考虑了初始化状态下干净和扰动图像的特征、参数和梯度的一致性，从而实现了能够学习在多种扰动情况下显示出鲁棒性的神经结构的高效快速搜索。 针对多个基准数据集和不同搜索空间，我们的代理能够快速有效地搜索出一致鲁棒的神经结构，大大优于现有的基于清晰无注入 NAS 和基于注入 NAS 减少的搜索成本。

Jun, 2023

本论文提出了 ProxyBO，一种利用零成本代理加速神经架构搜索的高效贝叶斯优化（BO）框架，通过我们设计的新颖获取函数结合动态影响的零成本代理，以及利用一般化能力测量估计代理在每个迭代期间的适应性，ProxyBO 在三个公共基准测试任务中的五个任务上持续超越竞争对手 REA 和 BRP-NAS，达到了 5.41x 和 3.86x 的加速。

Oct, 2021

通过使用代理数据，提出了一种新的代理数据选择方法，可以在不牺牲搜索性能的情况下减少神经架构搜索的计算成本。经过对各种选择方法构建的代理数据的熵分析，该方法可显著降低搜索成本并发现具有竞争力的架构。

Jun, 2021

本文提出一种基于延迟单调性的硬件感知神经架构搜索方法，通过利用搜索的代理设备在新设备上的可重用性和代理适应技术显著提高了单调性，仅使用一个代理设备即可找到接近 Pareto 最优架构，避免了为每个设备构建延迟预测器的高昂成本。

Nov, 2021

AZ-NAS 是一种新方法，它利用多种零成本代理的集成，显著增强了网络预测排名与性能的真实排名之间的相关性，并引入了一种非线性排名聚合方法，同时在保持合理运行时间成本的基础上，在标准基准测试中优于现有方法。

Mar, 2024

本文提出了一种高效的性能评估策略 - EPE-NAS，通过评分未训练的神经网络并与其训练后的表现建立相关性，旨在解决神经架构搜索中耗时的性能估计问题，进而能够在几秒钟内使用单个 GPU 进行搜索。此方法仅需使用简单的随机取样策略，可支持几乎所有 NAS 方法的集成。

Feb, 2021

TG-NAS 是一种基于模型的通用代理，利用基于 Transformer 的操作符嵌入生成器和图卷积网络 (GCN) 来预测架构性能，通过对各种 NAS 基准测试进行实验证明了其在搜索效率方面的优势，表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS 与先前的零成本 (ZC) 代理方法相比，搜索效率提高了多达 300 倍，特别地，在 NAS-Bench-201 空间上发现具有 93.75% CIFAR-10 准确度的竞争模型，并在 DARTS 空间上达到了 74.5% 的 ImageNet top-1 准确度。

Mar, 2024

本文研究了神经网络模型设计中的计算问题，提出使用零成本代理来提高搜索效率和减少计算成本，实验结果表明新的代理方法比传统方法更加有效。

Jan, 2021