AZ-NAS:构建零成本代理以进行网络架构搜索
TG-NAS 是一种基于模型的通用代理,利用基于 Transformer 的操作符嵌入生成器和图卷积网络 (GCN) 来预测架构性能,通过对各种 NAS 基准测试进行实验证明了其在搜索效率方面的优势,表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS 与先前的零成本 (ZC) 代理方法相比,搜索效率提高了多达 300 倍,特别地,在 NAS-Bench-201 空间上发现具有 93.75% CIFAR-10 准确度的竞争模型,并在 DARTS 空间上达到了 74.5% 的 ImageNet top-1 准确度。
Mar, 2024
本研究分析了常见的零成本代理在 NAS-Bench-201 搜索空间中作为鲁棒性性能预测器的能力,发现预测鲁棒性使得现有的零成本代理预测任务更具挑战性,需要联合考虑多个代理才能预测模型的鲁棒性。
Jul, 2023
提出了一种新颖的 Parametric Zero-Cost Proxies (ParZC) 框架,通过参数化来增强零成本代理的适应性,在节点的零成本统计中探索并估计节点特定的不确定性,并提出了 DiffKendall 作为一种损失函数,以不可微分的方式直接优化 Kendall's Tau 系数,从而更好地处理架构排名中的差异。在 NAS-Bench-101、201 和 NDS 上的综合实验证明了我们提出的 ParZC 相对于现有的零成本 NAS 方法的优越性,并通过将其应用于 Vision Transformer 搜索空间展示了 ParZC 的多功能性和适应性。
Feb, 2024
本文介绍了 “Zero-cost proxies”(零成本代理)的性能预测技术,计划显着加快神经架构搜索算法,并创建了 NAS-Bench-Suite,结合 13 个零成本代理模型用于更快的实验,同时提高了预测性能。
Oct, 2022
本论文提出了 ProxyBO,一种利用零成本代理加速神经架构搜索的高效贝叶斯优化(BO)框架,通过我们设计的新颖获取函数结合动态影响的零成本代理,以及利用一般化能力测量估计代理在每个迭代期间的适应性,ProxyBO 在三个公共基准测试任务中的五个任务上持续超越竞争对手 REA 和 BRP-NAS,达到了 5.41x 和 3.86x 的加速。
Oct, 2021
本文全面回顾和比较最新的零样本神经架构搜索方法,重点在于它们的硬件感知能力。作者首先回顾了主流的零样本代理,并比较了这些零样本代理,在大规模实验中证明了它们在硬件感知和硬件无关的 NAS 场景中的有效性,并指出了设计更好代理的几个有前途的想法。
Jul, 2023
本研究通过研究现有的代理方法中排名稳定性的差异,提出了一种可靠的代理策略和层次化代理策略,在保持搜索质量的同时缩减了 400 倍的搜索时间,并且这些新的代理方法也可以应用于其他神经结构搜索算法中。
Jan, 2020
在这篇文章中,我们提出了一种新颖的轻量级鲁棒性零成本代理,该代理考虑了初始化状态下干净和扰动图像的特征、参数和梯度的一致性,从而实现了能够学习在多种扰动情况下显示出鲁棒性的神经结构的高效快速搜索。 针对多个基准数据集和不同搜索空间,我们的代理能够快速有效地搜索出一致鲁棒的神经结构,大大优于现有的基于清晰无注入 NAS 和基于注入 NAS 减少的搜索成本。
Jun, 2023
该研究提出了一种与训练集准确度高度相关的零成本度量标准 epsilon,使用零成本代理来加速神经架构搜索,省去了计算负载和梯度计算、标签、损失度量等依赖于人工标注数据的环节。
Feb, 2023