ProxyBO: 通过零成本代理加速贝叶斯优化的神经结构搜索
本研究分析了常见的零成本代理在 NAS-Bench-201 搜索空间中作为鲁棒性性能预测器的能力,发现预测鲁棒性使得现有的零成本代理预测任务更具挑战性,需要联合考虑多个代理才能预测模型的鲁棒性。
Jul, 2023
本文介绍了 “Zero-cost proxies”(零成本代理)的性能预测技术,计划显着加快神经架构搜索算法,并创建了 NAS-Bench-Suite,结合 13 个零成本代理模型用于更快的实验,同时提高了预测性能。
Oct, 2022
AZ-NAS 是一种新方法,它利用多种零成本代理的集成,显著增强了网络预测排名与性能的真实排名之间的相关性,并引入了一种非线性排名聚合方法,同时在保持合理运行时间成本的基础上,在标准基准测试中优于现有方法。
Mar, 2024
该研究提出了一个使用自监督少样本训练的可扩展代理 (Eproxy) 和离散代理搜索 (DPS) 方法,以解决神经架构搜索 (NAS) 中的计算问题和多模态下游任务的问题。通过使用不可训练的卷积层,Eproxy 中的非线性优化空间可以区分体系结构在早期阶段的性能,同时实现对不同任务 / 搜索空间的适应性。DPS 方法具有仅通过少量基准体系结构便可在目标任务上找到 Eproxy 的最优训练设置的优点。
Oct, 2022
本研究通过研究现有的代理方法中排名稳定性的差异,提出了一种可靠的代理策略和层次化代理策略,在保持搜索质量的同时缩减了 400 倍的搜索时间,并且这些新的代理方法也可以应用于其他神经结构搜索算法中。
Jan, 2020
提出了一种新颖的 Parametric Zero-Cost Proxies (ParZC) 框架,通过参数化来增强零成本代理的适应性,在节点的零成本统计中探索并估计节点特定的不确定性,并提出了 DiffKendall 作为一种损失函数,以不可微分的方式直接优化 Kendall's Tau 系数,从而更好地处理架构排名中的差异。在 NAS-Bench-101、201 和 NDS 上的综合实验证明了我们提出的 ParZC 相对于现有的零成本 NAS 方法的优越性,并通过将其应用于 Vision Transformer 搜索空间展示了 ParZC 的多功能性和适应性。
Feb, 2024
在这篇文章中,我们提出了一种新颖的轻量级鲁棒性零成本代理,该代理考虑了初始化状态下干净和扰动图像的特征、参数和梯度的一致性,从而实现了能够学习在多种扰动情况下显示出鲁棒性的神经结构的高效快速搜索。 针对多个基准数据集和不同搜索空间,我们的代理能够快速有效地搜索出一致鲁棒的神经结构,大大优于现有的基于清晰无注入 NAS 和基于注入 NAS 减少的搜索成本。
Jun, 2023
TG-NAS 是一种基于模型的通用代理,利用基于 Transformer 的操作符嵌入生成器和图卷积网络 (GCN) 来预测架构性能,通过对各种 NAS 基准测试进行实验证明了其在搜索效率方面的优势,表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS 与先前的零成本 (ZC) 代理方法相比,搜索效率提高了多达 300 倍,特别地,在 NAS-Bench-201 空间上发现具有 93.75% CIFAR-10 准确度的竞争模型,并在 DARTS 空间上达到了 74.5% 的 ImageNet top-1 准确度。
Mar, 2024
本篇论文提出了 ProxylessNAS 方法,它能够在大规模的目标任务和硬件平台上直接学习网络结构,缩减计算成本并提供了一种高效的 CNN 网络结构设计方法。实验结果表明,ProxylessNAS 可以在 CIFAR-10 和 ImageNet 数据集上超越以前的最优架构,并提供了硬件性能的定制化。
Dec, 2018