本研究提出了一种新的零 - shot 代理模型（ZiCo），它能够通过预测测试性能来设计最佳神经网络架构，不仅比现有模型表现更好，而且不需要训练，可以在进行神经架构搜索时节省大量时间。此外，通过在 NAS-Benchmarks 基准下的对比实验，我们证明了该方法对于多种应用的数据集具有良好的适应性，并且所得到的最佳神经网络架构不仅与传统 NAS 方法相当，而且所需搜索时间更短。

Jan, 2023

AZ-NAS 是一种新方法，它利用多种零成本代理的集成，显著增强了网络预测排名与性能的真实排名之间的相关性，并引入了一种非线性排名聚合方法，同时在保持合理运行时间成本的基础上，在标准基准测试中优于现有方法。

Mar, 2024

利用深度学习方法提出了一种新的零样本神经架构搜索方法，该方法使用正弦编码的傅里叶和来构建计算前馈图，并通过伴随的多层感知机对架构进行排序。实验证明，该方法在 NAS-Bench-201 数据集上的相关性和收敛速度均超过了先前使用图卷积网络的方法，并且所提取的特征表示经训练后可迁移到其他 NAS-Benchmark，展现了在多个搜索空间中的潜在普适性。

Aug, 2023

MicroNAS 是一种为边缘计算中的微控制器单元（MCU）设计的硬件感知的零样本神经架构搜索框架，通过考虑目标硬件的优化性能，在不高昂的计算成本下确定最佳神经架构，并实现了近 1104 倍的搜索效率提升和超过 3.23 倍的 MCU 推断速度提升，同时保持相似的准确性。

Jan, 2024

本文全面回顾和比较最新的零样本神经架构搜索方法，重点在于它们的硬件感知能力。作者首先回顾了主流的零样本代理，并比较了这些零样本代理，在大规模实验中证明了它们在硬件感知和硬件无关的 NAS 场景中的有效性，并指出了设计更好代理的几个有前途的想法。

Jul, 2023

本文采用经典的贝叶斯学习方法，利用分层自动相关决策（HARD）先验对架构参数进行建模以缓解一次 NAS 方法中存在的两个问题，并成功利用 CIFAR-10 数据集在 0.2 GPU 天内找到了精确的架构，同时通过提供结构稀疏性实现了分类精度极高且极度稀疏的卷积神经网络压缩。

May, 2019

通过基于双层优化的稀疏概率生成方法，Z0-DARTS + 提高了搜索效率，与最先进的解决方案相比，匹配了状态技术的准确性，并将搜索时间缩短了三倍。

May, 2024

此研究探讨了零样本神经网络架构搜索方法以及零样本代理度量的效果，发现现有零样本代理度量存在偏差，限制了其广泛应用，并提出一种新的偏差校正方法。通过在多个视觉任务上的实验证明，该方法能够成功搜索到更高准确性且延迟显著更低的架构，适用于三星 Galaxy S10 设备。

Sep, 2023

TG-NAS 是一种基于模型的通用代理，利用基于 Transformer 的操作符嵌入生成器和图卷积网络 (GCN) 来预测架构性能，通过对各种 NAS 基准测试进行实验证明了其在搜索效率方面的优势，表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS 与先前的零成本 (ZC) 代理方法相比，搜索效率提高了多达 300 倍，特别地，在 NAS-Bench-201 空间上发现具有 93.75% CIFAR-10 准确度的竞争模型，并在 DARTS 空间上达到了 74.5% 的 ImageNet top-1 准确度。

Mar, 2024

提出了一种新颖的 Parametric Zero-Cost Proxies (ParZC) 框架，通过参数化来增强零成本代理的适应性，在节点的零成本统计中探索并估计节点特定的不确定性，并提出了 DiffKendall 作为一种损失函数，以不可微分的方式直接优化 Kendall's Tau 系数，从而更好地处理架构排名中的差异。在 NAS-Bench-101、201 和 NDS 上的综合实验证明了我们提出的 ParZC 相对于现有的零成本 NAS 方法的优越性，并通过将其应用于 Vision Transformer 搜索空间展示了 ParZC 的多功能性和适应性。

Feb, 2024