ICMLFeb, 2021
AlphaNet: Alpha-Divergence 优化超级网络的改进训练
AlphaNet: Improved Training of Supernets with Alpha-Divergence
Dilin Wang, Chengyue Gong, Meng Li, Qiang Liu, Vikas Chandra
TL;DR研究提出了一种使用更通用的 alpha-divergence 改进 supernet 训练的方法,以避免模型不确定性的高估或低估,同时应用于 neural architecture search(神经架构搜索),并在不同的 FLOPs 范围内取得了优异的成果。