CVPRMay, 2019

OICSR：用于紧凑型深度神经网络的通道内外稀疏正则化

PDF
TL;DR本文提出了一种基于 Out-In-Channel 稀疏正则化（OICSR）的全局贪心利用相关性检测权重，进而实现对多个连续卷积层的稀疏化压缩，并设计了一种全局贪心裁剪算法来进一步压缩卷积神经网络的 FLOPs，同时在准确率方面也取得了优于原始模型的成果。
channel pruningstructured sparsity regularizationout-in-channelneural networksflops
发现论文，激发创造
  • PruneNet: 全局重要性通道剪枝

    本文提出了一种简单而有效的基于数据驱动优化的频道修剪方法，该方法通过每层发现必要的宽度，以非均匀修剪 ResNet-50 等深度神经网络，实现了与现有方法相同的 FLOP 降低率，同时提高了 0.98％的准确度，并优于其他深度神经网络如 ResNet-34 和 ResNet-18。

    May, 2020

  • 网络修剪的剪枝感知稀疏正则化

    本文提出了一种名为 MaskSparsity 的新型网络剪枝方法，使用有意义的稀疏正则化方法来选择特定滤波器，以获得更好的模型压缩效果，并在不损失模型准确性的情况下，在 Deep Learning 领域实现 63.03% 的 FLOP 降低和 60.34% 的参数减少。

    Jan, 2022

  • 深度神经网络的鉴别感知通道剪枝

    介绍了一种有效的基于鉴别力的通道剪枝方法，利用额外的损失函数增加中间层的鉴别力并根据重构误差和额外损失函数选择最具鉴别力的通道，并提出了一种迭代贪心算法来优化参数和通道选择。对类似于 ILSVRC-12 的测试数据，使用该算法对 ResNet-50 剪枝显示出相当有效的性能。

    Oct, 2018

  • 实用网络压缩的群组 Fisher 剪枝

    本文提出了一种通道剪枝的方法，可以应用于各种复杂的结构，包括具有耦合通道的结构，在各种主干网络上进行了大量的实验，证明该方法可以有效地提高推断速度而不影响准确性。同时纳入了 GPU 推断速度关联性比 FLOPs 更高的记忆占用量的考量。

    Aug, 2021

  • 针对深度模型压缩的鉴别感知网络裁剪

    该研究介绍了一种简单而有效的方法（称为 DCP），旨在尽可能地选择实际有助于卷积神经网络判别能力的通道，并进一步通过去除多余的内核来压缩深层网络，同时通过自适应停止条件来防止选择冗余的通道 / 内核并实现更好的性能。

    Jan, 2020

  • 一种深层神经网络压缩的新型通道修剪方法

    本文提出了一种基于遗传算法的新型通道剪枝方法，通过分层和知识蒸馏框架的剪枝中，显著降低了模型的冗余，并在三个基准数据集上验证其性能。

    May, 2018

  • 重新思考卷积层通道剪枝中的小范数低信息量假设

    本文提出一种基于通道修剪的卷积神经网络加速算法，该算法通过端到端随机训练和修剪常量通道的方法得到压缩模型，并在多个图像识别任务上验证了其竞争性能。

    Feb, 2018

  • 基于通道独立性的紧凑神经网络剪枝方法 CHIP

    本文从跨通道的角度出发，提出了一种基于通道独立度的高效的滤波器剪枝方法，该方法通过减少含有较少有用信息的特征图的数量，从而减小了模型容量，提高了模型的计算和存储效率。实验结果表明，在不影响精度的情况下，该方法可以显著地减小模型大小和 FLOPs 并提高分类精度。

    Oct, 2021

  • 渐进式通道收缩网络

    本文提出了一种逐步通道压缩（PCS）方法，以在运行时动态压缩选定的显著度条目，代替粗略地将它们近似为零。并提出一种运行缩小策略，提供一种测试静态的修剪方案，可以减少滤波器索引的内存访问成本，结果表明 PCS 在图像分类任务中超越了所有基线，并在压缩性能平衡方面（tradeoff）达到了最新的性能，实现了显著的推理加速。

    Apr, 2023

  • 用于加速非常深的神经网络的通道修剪

    本文提出了一种新的通道剪枝方法，能够加速非常深的卷积神经网络，通过基于 LASSO 回归的通道选择和最小二乘重构的迭代两步算法有效地修剪每一层，进一步推广到多层和多分支情况，剪枝后的 VGG-16 实现了 5 倍速度提升和仅 0.3％误差增加的最新成果，更重要的是，本方法能够加速现代网络，例如 ResNet，Xception，分别在 2 倍加速下只有 1.4％，1.0％的准确度损失，代码已公开出售。

    Jul, 2017