Jul, 2015

深度神经网络的数据无关参数剪枝

TL;DR本研究探讨在已训练的神经网络模型中修剪神经元的问题并提出了一种系统性的方式去除冗余的相似神经元,并且通过在 MNIST 训练网络中修剪密集连接层,达到 85% 的总参数去除率,在 AlexNet 上达到35%去除率,并且没有明显影响其性能。