May, 2023
训练期间自适应排名谱剪枝卷积层
Rank-adaptive spectral pruning of convolutional layers during training
Emanuele Zangrando, Steffen Schotthöfer, Gianluca Ceruti, Jonas Kusch, Francesco Tudisco
TL;DR本文提出一种基于张量 Tucker 分解的低参数训练方法,通过自适应剪枝卷积核的 Tucker 秩来降低训练成本,并在保证损失下降的情况下,达到与完整基线模型相当甚至更好的性能。