ECCVJul, 2020

REPrune: 通过代表选举进行滤波裁剪

PDF
TL;DR本研究提出一种名为 REPrune 的新颖剪枝方法，通过聚类选择代表性滤波器，从而获得更好的压缩率并提高精度。实验证明，REPrune 方法可以在保持相似精度的情况下，减少 49% 的 FLOPs。
norm-based filter pruningrepruneclusteringcompression rateaccuracy
发现论文，激发创造
  • REPrune：通过核心代表选择进行通道修剪

    本文提出了一种新的通道修剪技术 REPrune，利用层次聚类方法在每个通道中识别相似的卷积核，并通过最大化聚类覆盖问题来选择卷积滤波器，结合同时训练和修剪的范式，实现训练过程中的高效修剪，实验结果显示 REPrune 在计算机视觉任务中表现优于现有方法，有效地在加速率和性能保留之间取得平衡。

    Feb, 2024

  • 被动滤波剪枝提高 CNN 效率

    提出了一种基于运算符范数的被动滤波器修剪方法，通过考虑滤波器在输出中的贡献来裁剪滤波器，相对于现有的主动滤波器修剪方法快 4.5 倍，并且在声音场景分类和图像分类等任务中表现出更好的泛化能力和性能。

    Apr, 2023

  • 用于卷积神经网络的在线过滤聚类和修剪

    本文提出了一种基于聚类的卷积核剪枝方法，通过在线将卷积核聚类并比较相似的卷积核，可以安全地剪掉同类的冗余卷积核，实现深度神经网络的加速，实验表明该方法在 CIFAR10 与 CIFAR100 数据集上具有竞争性的性能。

    May, 2019

  • 通过学习全局排序实现高效模型压缩

    该论文提出了一种新的卷积神经网络滤波器裁剪算法，名为 LeGR，通过产生一组具有不同精度和延迟权衡的卷积神经网络来代替产生一个具有预定义延迟约束的卷积神经网络，且相比于之前的方法，LeGR 可以在保持性能的情况下快 2-3 倍。

    Apr, 2019

  • 高效保留模型准确性的自动神经网络剪枝

    本文提出一种自动修剪方法来减少神经网络中的 FLOPs，该方法通过引入可训练瓶颈来学习哪些神经元需要被保留以保持模型准确性，实验证明，该方法可以在保持模型准确性的前提下显著减少模型的 FLOPs。

    Nov, 2021

  • 基于几何中位数的卷积神经网络滤波剪枝加速

    通过数学中介数理论给出了一种新的滤波器压缩方法 FPGM，该方法完全不受 “小范数” 原则的限制，不仅能够压缩 CNN 模型，而且还能提高相对精度。

    Nov, 2018

  • ResRep: 通过解耦记忆和遗忘实现无损 CNN 剪枝

    本研究提出了 ResRep 方法，该方法可通过重要参数的记忆和抛弃来实现有结构的稀疏，并且可以在不损失精度的情况下压缩 ResNet-50 模型，实现了高压缩率下的无损剪枝。

    Jul, 2020

  • 利用冗余特征剪枝构建高效 ConvNets

    该论文提出了一种通过消除冗余特征（或滤波器）来修剪深度和 / 或宽度卷积神经网络模型的高效技术，其依据特征空间中的相对余弦距离区分它们和它们的连接特征映射并优化精度和推理性能，但优化后的算法能将 VGG-16 的推理成本降低 40％、ResNet-56 的推理成本降低 27％、ResNet-110 的推理成本减少 39％。

    Feb, 2018

  • 是滤波剪枝，还是层剪枝，这是一个问题

    本文提出了 LayerPrune 框架，相较于传统基于 filter 的剪枝方法，LayerPrune 基于不同的剪枝指标实现了更高的延迟降低，并使用相同的 filter 重要性判定剪枝最不重要的层，较好地平衡了准确率和删除率。

    Jul, 2020

  • 深度卷积神经网络的可塑性：从随机修剪中恢复

    本文研究深度卷积神经网络滤波器修剪方法，通过检验实验证明，我们使用随机滤波器修剪策略能够获得接近最先进修剪方法的性能，同时在图像分类和目标检测中均能实现显著的加速。

    Jan, 2018