Oct, 2021
在随机初始化的网络中发现具有先天强健性的子网络来制作健壮的刮刮卡
Drawing Robust Scratch Tickets: Subnetworks with Inborn Robustness Are Found within Randomly Initialized Networks
Yonggan Fu, Qixuan Yu, Yang Zhang, Shang Wu, Xu Ouyang...
TL;DR该研究发现随机初始化的 DNN 中存在天生的稳健的子网络,其稳健准确性可以匹配或超过与之相似的经过敌对性训练的网络,从而进一步建立了关于模型稳健性的新视角并扩展了 Lottery Ticket Hypothesis。