Jul, 2020
巨人的肩膀：硬件和神经网络架构热启动的协同搜索
Standing on the Shoulders of Giants: Hardware and Neural Architecture Co-Search with Hot Start
Weiwen Jiang, Lei Yang, Sakyasingha Dasgupta, Jingtong Hu, Yiyu Shi
TL;DR该论文提出了一种名为 HotNAS 的新颖框架，通过从现有的预训练模型（即模型库）开始，以 “热” 状态启动搜索过程，从而避免了漫长的训练时间，从而将搜索时间从 200 GPU 小时缩短为不到 3 GPU 小时。在 HotNAS 中，我们将硬件设计空间、神经体系结构搜索空间和压缩空间相互集成，以通过模型压缩来创建新的减少延迟的机会，而同时也带来了挑战。论文通过 ImageNet 数据集和 Xilinx FPGA 的实验表明，在 5ms 的时间约束下，HotNAS 生成的神经体系结构的 Top-1 和 Top-5 精度与现有的神经体系结构相比，可以实现高达 5.79% 和 3.97% 的精度提高。