zero-cost proxies | BriefGPT

关键词zero-cost proxies

搜索结果 - 10

神经图特征的惊人强大性能预测
通过一种简便可行的图形特征计算方法，GRAF (神经图形特征) 在预测网络性能的同时超越了零成本代理和其他常见编码方法，成为性能预测的大多数现有预测器中成本较低且表现最好的一种。
PDF2 months ago
CVPRAZ-NAS：构建零成本代理以进行网络架构搜索
AZ-NAS 是一种新方法，它利用多种零成本代理的集成，显著增强了网络预测排名与性能的真实排名之间的相关性，并引入了一种非线性排名聚合方法，同时在保持合理运行时间成本的基础上，在标准基准测试中优于现有方法。
PDF3 months ago
ParZC: 高效 NAS 的参数化零成本代理
提出了一种新颖的 Parametric Zero-Cost Proxies (ParZC) 框架，通过参数化来增强零成本代理的适应性，在节点的零成本统计中探索并估计节点特定的不确定性，并提出了 DiffKendall 作为一种损失函数，以不
PDF5 months ago
AAAIAuto-Prox: 通过自动代理发现的无需训练的视觉 Transformer 架构搜索
通过自动代理发现框架 Auto-Prox，我们介绍了一种训练免费的方法来进行 Vision Transformer（ViT）的体系结构搜索。广泛的实验表明，我们的方法在不同数据集上都具有很好的泛化能力，并在排名相关性和最终准确性方面取得了最
PDF7 months ago
TVT: 在小数据集上无需训练的视觉 Transformer 搜索
本文提出了一种无需训练的视觉 Transformer（ViT）架构搜索方法，通过使用教师模型，利用具有零成本代理的方式搜索更好的 ViT，并在各种小型数据集和搜索空间上展开了大量实验，证明了该方法优于现有的无训练搜索方法。
PDF7 months ago
零成本代理的评估 -- 从神经架构性能到模型鲁棒性
本研究分析了常见的零成本代理在 NAS-Bench-201 搜索空间中作为鲁棒性性能预测器的能力，发现预测鲁棒性使得现有的零成本代理预测任务更具挑战性，需要联合考虑多个代理才能预测模型的鲁棒性。
PDFa year ago
轻量化且准确：通过两个常数共享权重初始化的神经架构搜索
该研究提出了一种与训练集准确度高度相关的零成本度量标准 epsilon，使用零成本代理来加速神经架构搜索，省去了计算负载和梯度计算、标签、损失度量等依赖于人工标注数据的环节。
PDFa year ago
NAS-Bench-Suite-Zero：加速无成本代理研究
本文介绍了 “Zero-cost proxies”（零成本代理）的性能预测技术，计划显着加快神经架构搜索算法，并创建了 NAS-Bench-Suite，结合 13 个零成本代理模型用于更快的实验，同时提高了预测性能。
PDF2 years ago
AAAIProxyBO: 通过零成本代理加速贝叶斯优化的神经结构搜索
本论文提出了 ProxyBO，一种利用零成本代理加速神经架构搜索的高效贝叶斯优化（BO）框架，通过我们设计的新颖获取函数结合动态影响的零成本代理，以及利用一般化能力测量估计代理在每个迭代期间的适应性，ProxyBO 在三个公共基准测试任务中
PDF3 years ago
ICLR轻量级 NAS 的零成本代理
本文研究了神经网络模型设计中的计算问题，提出使用零成本代理来提高搜索效率和减少计算成本，实验结果表明新的代理方法比传统方法更加有效。
PDF3 years ago