本文介绍了神经架构搜索的问题，并调研了最近的研究成果。然后，我们深入探讨了两项对NAS进行多目标框架扩展的最新进展：MONAS和DPP-Net。MONAS和DPP-Net都能够优化精度和设备带入的其他目标，寻找可以在广泛设备上最好部署的神经架构。实验结果显示，MONAS和DPP-Net找到的架构在各种设备上均达到了 Pareto 最优性。

Aug, 2018

本文针对神经架构搜索中硬件多样性挑战和在广泛硬件上设计精确有效的卷积神经体系结构领域的挑战，提出了一种基于自动硬件感知搜索的两阶段搜索算法HURRICANE。在ImageNet上的实验结果表明，该算法在相同延迟限制下，优于现有的基于硬件感知神经架构搜索方法，并且发现的架构比当前最先进的高效模型具有更低的延迟和更高的准确性。

Oct, 2019

该论文综述了当前关于硬件感知神经架构搜索的研究，包括搜索空间，搜索策略，加速技术和硬件成本估计策略。研究者采用多目标优化算法来解决神经架构复杂，导致在IoT，移动和嵌入式系统等资源受限的平台上部署困难的问题，并讨论了相关算法及策略的挑战和局限性，同时为未来的研究提供参考，这是首篇针对硬件感知神经架构搜索的论文综述。

Jan, 2021

利用神经切向核和输入空间中的线性区域数来排名结构，通过 TE-NAS 框架进行训练 - free 的神经体系结构搜索，使用基于剪枝的 NAS 机制进行灵活且优越的权衡，实现在CIFAR-10和ImageNet上只花费0.5和4 GPU小时完成的高质量搜索。

Feb, 2021

本文提出了一种基于零成本代理的搜索空间无关神经网络编码方法，以实现对多个任务、搜索空间和硬件设备的准确性和延迟预测进行多任务、多搜索空间和多硬件的自适应，从而在提高端到端样本效率方面取得了显著的效果。

Jun, 2023

本文全面回顾和比较最新的零样本神经架构搜索方法，重点在于它们的硬件感知能力。作者首先回顾了主流的零样本代理，并比较了这些零样本代理，在大规模实验中证明了它们在硬件感知和硬件无关的NAS场景中的有效性，并指出了设计更好代理的几个有前途的想法。

Jul, 2023

利用深度学习方法提出了一种新的零样本神经架构搜索方法，该方法使用正弦编码的傅里叶和来构建计算前馈图，并通过伴随的多层感知机对架构进行排序。实验证明，该方法在NAS-Bench-201数据集上的相关性和收敛速度均超过了先前使用图卷积网络的方法，并且所提取的特征表示经训练后可迁移到其他NAS-Benchmark，展现了在多个搜索空间中的潜在普适性。

Aug, 2023

MicroNAS是一种为边缘计算中的微控制器单元（MCU）设计的硬件感知的零样本神经架构搜索框架，通过考虑目标硬件的优化性能，在不高昂的计算成本下确定最佳神经架构，并实现了近1104倍的搜索效率提升和超过3.23倍的MCU推断速度提升，同时保持相似的准确性。

Jan, 2024

TG-NAS是一种基于模型的通用代理，利用基于Transformer的操作符嵌入生成器和图卷积网络(GCN)来预测架构性能，通过对各种NAS基准测试进行实验证明了其在搜索效率方面的优势，表明其作为高效架构搜索的基础组成部分的潜力。TG-NAS与先前的零成本(ZC)代理方法相比，搜索效率提高了多达300倍，特别地，在NAS-Bench-201空间上发现具有93.75% CIFAR-10准确度的竞争模型，并在DARTS空间上达到了74.5%的ImageNet top-1准确度。

Mar, 2024

本研究解决了为多种低成本边缘设备设计低延迟和高效率混合网络所面临的复杂性和成本问题。提出的SCAN-Edge是一种统一的神经架构搜索框架，通过硬件感知进化算法共同搜索自注意力、卷积和激活，以应对不同边缘设备的需求。实验表明，所提出的混合网络在各种商品边缘设备上与实际MobileNetV2的延迟表现一致，具有显著的实际应用潜力。

Aug, 2024