本研究提出了一种新的零 - shot 代理模型（ZiCo），它能够通过预测测试性能来设计最佳神经网络架构，不仅比现有模型表现更好，而且不需要训练，可以在进行神经架构搜索时节省大量时间。此外，通过在 NAS-Benchmarks 基准下的对比实验，我们证明了该方法对于多种应用的数据集具有良好的适应性，并且所得到的最佳神经网络架构不仅与传统 NAS 方法相当，而且所需搜索时间更短。

Jan, 2023

本文全面回顾和比较最新的零样本神经架构搜索方法，重点在于它们的硬件感知能力。作者首先回顾了主流的零样本代理，并比较了这些零样本代理，在大规模实验中证明了它们在硬件感知和硬件无关的 NAS 场景中的有效性，并指出了设计更好代理的几个有前途的想法。

Jul, 2023

本文介绍了 “Zero-cost proxies”（零成本代理）的性能预测技术，计划显着加快神经架构搜索算法，并创建了 NAS-Bench-Suite，结合 13 个零成本代理模型用于更快的实验，同时提高了预测性能。

Oct, 2022

提出了一种新颖的 Parametric Zero-Cost Proxies (ParZC) 框架，通过参数化来增强零成本代理的适应性，在节点的零成本统计中探索并估计节点特定的不确定性，并提出了 DiffKendall 作为一种损失函数，以不可微分的方式直接优化 Kendall's Tau 系数，从而更好地处理架构排名中的差异。在 NAS-Bench-101、201 和 NDS 上的综合实验证明了我们提出的 ParZC 相对于现有的零成本 NAS 方法的优越性，并通过将其应用于 Vision Transformer 搜索空间展示了 ParZC 的多功能性和适应性。

Feb, 2024

本文介绍了一个新的神经架构搜索算法，该算法使用零取样指数 Zen-Score 代替了传统的精度预测器，并且只需要少量前向推断即可计算 Zen-Score。建立在 Zen-Score 基础上，提出了 Zen-NAS 算法，能够在不使用数据的情况下，直接搜索高性能的架构。Zen-NAS 在多个服务器和移动 GPU 平台表现出卓越的性能和精度。

Feb, 2021

本文主要探讨了当前零样本学习（ZSL）模型在 Imagenet 基准测试中的不足之处，提出了基准测试质量不高的原因，并分析了影响 ZSL 模型准确性的不同因素。进一步介绍了 ZSL 数据集中的结构偏见，并详细阐述了半自动构建新基准的方法，以应对这些缺陷。

Apr, 2019

本文提出了一个新的任务：零样本语义分割，要求学习像素级分类器从未见过的物体类别中进行分类。ZS3Net 是本文提出的一种新架构，它将深度视觉分割模型与从语义词嵌入生成视觉表示的方法相结合，以实现在测试时间处理已见和未见类别的像素分类任务。本文还通过自我训练进一步提高了性能，并在 Pascal-VOC 和 Pascal-Context 两个标准分割数据集上提出了零样本基准并设立竞争基线。此外，对于像 Pascal-Context 数据集中的复杂场景，我们通过使用图形上下文编码来完全利用来自类别分割地图的空间上下文先验知识。

Jun, 2019

通过引入 “sub-one-shot” 范式，我们介绍了一种新的神经体系结构搜索方法 SiGeo，该方法通过使用一小部分训练数据进行训练来减少计算成本，并在各种已建立的 NAS 基准测试中优于现有的 NAS 代理。

Nov, 2023

ContrastZSD 是一种用于零样本目标检测的基于语义指导对比学习的检测框架，它通过引入显式的语义指导和对比学习机制，来优化模型对未见过类别的认知，同时改善视觉特征结构以实现更好的视觉 - 语义对齐。

Sep, 2021

TG-NAS 是一种基于模型的通用代理，利用基于 Transformer 的操作符嵌入生成器和图卷积网络 (GCN) 来预测架构性能，通过对各种 NAS 基准测试进行实验证明了其在搜索效率方面的优势，表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS 与先前的零成本 (ZC) 代理方法相比，搜索效率提高了多达 300 倍，特别地，在 NAS-Bench-201 空间上发现具有 93.75% CIFAR-10 准确度的竞争模型，并在 DARTS 空间上达到了 74.5% 的 ImageNet top-1 准确度。

Mar, 2024