Oct, 2023
SUBP：用于 1xN 稀疏 CNNs 多线程加速的软均匀块剪枝
SUBP: Soft Uniform Block Pruning for 1xN Sparse CNNs Multithreading
Acceleration
TL;DR通过软均匀块剪枝法（SUBP），本文提出了一种从零开始训练均匀1xN稀疏结构网络的方法，通过块角冗余和均匀重要性抽样，在训练过程中使修剪的块能够以均匀的方式再次生长到网络中，不仅降低了对预训练的依赖性，减少了模型冗余和永久修剪重要块的风险，还实现了负载均衡。在ImageNet上的综合实验中，我们的SUBP方法在各种CNN架构上始终优于基于预训练模型或从零开始训练的现有1xN和结构稀疏方法。