Oct, 2021
为什么彩票票获胜?剪枝神经网络中样本复杂度的理论视角
Why Lottery Ticket Wins? A Theoretical Perspective of Sample Complexity on Pruned Neural Networks
Shuai Zhang, Meng Wang, Sijia Liu, Pin-Yu Chen, Jinjun Xiong
TL;DR本文通过分析目标函数的几何结构和样本复杂度,理论上证明了剪枝神经网络在加速随机梯度下降算法的特定情况下,训练过程中获得零泛化误差所需的样本数与隐藏层中未被剪枝的权重数成正比,从而提供了对中奖票证明的形式化证明。