Feb, 2022
利用元梯度在初始化时寻找可训练权重的潜在剪枝
Prospect Pruning: Finding Trainable Weights at Initialization using Meta-Gradients
Milad Alizadeh, Shyam A. Tailor, Luisa M Zintgraf, Joost van Amersfoort, Sebastian Farquhar...
TL;DR本文提出了一种名为 Prospect Pruning 的修剪方法,它通过 meta-gradients 来确定哪些参数需要被修剪,从而实现在同时保留神经网络准确性的前提下,消耗更少的计算资源并达到最先进的修剪表现。