ICMLMay, 2019
自适应随机自然梯度方法用于一次性神经架构搜索
Adaptive Stochastic Natural Gradient Method for One-Shot Neural Architecture Search
Youhei Akimoto, Shinichi Shirakawa, Nozomu Yoshinari, Kento Uchida, Shota Saito...
TL;DR该研究提出了一种基于优化框架的神经架构搜索方法,将连接权重和神经架构的联合优化转换为可微分优化,使用随机松弛技术,并利用梯度进行权重和架构的同时优化,从而在图像分类和图像修复任务中实现了近乎领先的性能表现。