该研究提出了一个使用自监督少样本训练的可扩展代理 (Eproxy) 和离散代理搜索 (DPS) 方法，以解决神经架构搜索 (NAS) 中的计算问题和多模态下游任务的问题。通过使用不可训练的卷积层，Eproxy 中的非线性优化空间可以区分体系结构在早期阶段的性能，同时实现对不同任务 / 搜索空间的适应性。DPS 方法具有仅通过少量基准体系结构便可在目标任务上找到 Eproxy 的最优训练设置的优点。

Oct, 2022

本文研究了神经网络模型设计中的计算问题，提出使用零成本代理来提高搜索效率和减少计算成本，实验结果表明新的代理方法比传统方法更加有效。

Jan, 2021

通过使用代理数据，提出了一种新的代理数据选择方法，可以在不牺牲搜索性能的情况下减少神经架构搜索的计算成本。经过对各种选择方法构建的代理数据的熵分析，该方法可显著降低搜索成本并发现具有竞争力的架构。

Jun, 2021

AZ-NAS 是一种新方法，它利用多种零成本代理的集成，显著增强了网络预测排名与性能的真实排名之间的相关性，并引入了一种非线性排名聚合方法，同时在保持合理运行时间成本的基础上，在标准基准测试中优于现有方法。

Mar, 2024

本篇论文提出了 ProxylessNAS 方法，它能够在大规模的目标任务和硬件平台上直接学习网络结构，缩减计算成本并提供了一种高效的 CNN 网络结构设计方法。实验结果表明，ProxylessNAS 可以在 CIFAR-10 和 ImageNet 数据集上超越以前的最优架构，并提供了硬件性能的定制化。

Dec, 2018

本论文提出了 ProxyBO，一种利用零成本代理加速神经架构搜索的高效贝叶斯优化（BO）框架，通过我们设计的新颖获取函数结合动态影响的零成本代理，以及利用一般化能力测量估计代理在每个迭代期间的适应性，ProxyBO 在三个公共基准测试任务中的五个任务上持续超越竞争对手 REA 和 BRP-NAS，达到了 5.41x 和 3.86x 的加速。

Oct, 2021

本文提出一种基于延迟单调性的硬件感知神经架构搜索方法，通过利用搜索的代理设备在新设备上的可重用性和代理适应技术显著提高了单调性，仅使用一个代理设备即可找到接近 Pareto 最优架构，避免了为每个设备构建延迟预测器的高昂成本。

Nov, 2021

在这篇文章中，我们提出了一种新颖的轻量级鲁棒性零成本代理，该代理考虑了初始化状态下干净和扰动图像的特征、参数和梯度的一致性，从而实现了能够学习在多种扰动情况下显示出鲁棒性的神经结构的高效快速搜索。 针对多个基准数据集和不同搜索空间，我们的代理能够快速有效地搜索出一致鲁棒的神经结构，大大优于现有的基于清晰无注入 NAS 和基于注入 NAS 减少的搜索成本。

Jun, 2023

TG-NAS 是一种基于模型的通用代理，利用基于 Transformer 的操作符嵌入生成器和图卷积网络 (GCN) 来预测架构性能，通过对各种 NAS 基准测试进行实验证明了其在搜索效率方面的优势，表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS 与先前的零成本 (ZC) 代理方法相比，搜索效率提高了多达 300 倍，特别地，在 NAS-Bench-201 空间上发现具有 93.75% CIFAR-10 准确度的竞争模型，并在 DARTS 空间上达到了 74.5% 的 ImageNet top-1 准确度。

Mar, 2024

研究了基于不同采样方法的数据集大小减少对神经结构搜索 (NAS) 算法的影响，并在 CIFAR-100 数据集上进行了 1,400 种实验，其中大多数情况下，将训练数据减少到 25％的同时，保持与使用全数据集训练相同的准确性，可以实现搜索时间的减少。

Mar, 2022