CVPRMar, 2024

基于多样性感知的 StyleGAN 压缩通道剪枝

PDF
TL;DR我们提出了一种新颖的通道修剪方法，通过评估通道对潜在向量扰动的敏感性，增强了压缩模型中样本的多样性。我们的方法显著提升了各种数据集中样本的多样性，并且在 FID 得分方面，不仅大幅超过了最先进的方法，还在只有一半训练迭代次数的情况下达到了可比较的得分。
发现论文，激发创造
  • 深度神经网络的鉴别感知通道剪枝

    介绍了一种有效的基于鉴别力的通道剪枝方法，利用额外的损失函数增加中间层的鉴别力并根据重构误差和额外损失函数选择最具鉴别力的通道，并提出了一种迭代贪心算法来优化参数和通道选择。对类似于 ILSVRC-12 的测试数据，使用该算法对 ResNet-50 剪枝显示出相当有效的性能。

    Oct, 2018

  • 内容感知 GAN 压缩

    该研究提出了用于无条件 GAN 压缩的一种新方法。 该方法结合了通道修剪，知识蒸馏和内容感知，使模型在保持图像质量的同时具有更高的压缩率，可应用于各种图像生成和编辑任务。

    Apr, 2021

  • 一种深层神经网络压缩的新型通道修剪方法

    本文提出了一种基于遗传算法的新型通道剪枝方法，通过分层和知识蒸馏框架的剪枝中，显著降低了模型的冗余，并在三个基准数据集上验证其性能。

    May, 2018

  • 针对深度模型压缩的鉴别感知网络裁剪

    该研究介绍了一种简单而有效的方法（称为 DCP），旨在尽可能地选择实际有助于卷积神经网络判别能力的通道，并进一步通过去除多余的内核来压缩深层网络，同时通过自适应停止条件来防止选择冗余的通道 / 内核并实现更好的性能。

    Jan, 2020

  • 深度网络的多损失感知通道剪枝

    本文提出了一种新的通道剪枝方法，通过使用基线模型的中间输出和剪枝模型的分类损失来监督分层通道选择，并通过考虑重建误差、附加损失和分类损失来显著提高剪枝模型的性能。

    Feb, 2019

  • 神经网络压缩中的随机通道剪枝再探讨

    该研究采用随机搜索算法确定裁剪神经网络中通道的配置，比较各种方法的表现，结果发现在这种设置下没有明显的优胜者，这倾向于深入研究通道配置搜索方法。

    May, 2022

  • 基于梯度流的深度学习模型压缩中的显著性探究

    本文提出一种基于梯度流的模型修剪方法，综合考虑 BN 和 ReLU 层后的卷积操作对整个特征映射的影响，采用 BN 层中的一阶泰勒多项式标识神经元的重要程度，该方法在图像分类和去噪任务上取得了良好的性能表现。

    Oct, 2021

  • 实用网络压缩的群组 Fisher 剪枝

    本文提出了一种通道剪枝的方法，可以应用于各种复杂的结构，包括具有耦合通道的结构，在各种主干网络上进行了大量的实验，证明该方法可以有效地提高推断速度而不影响准确性。同时纳入了 GPU 推断速度关联性比 FLOPs 更高的记忆占用量的考量。

    Aug, 2021

  • 目标检测中的组通道修剪和空间注意力蒸馏

    本文提出了一种三阶段的模型压缩方法，即动态稀疏训练、组通道剪枝和空间关注蒸馏，可将目标检测网络的参数减少 64.7%、计算量减少 34.9%。

    Jun, 2023

  • 使用注意力统计方法剪枝通道的深度神经网络压缩技术 PCAS

    本研究提出了一种基于注意统计的简单通道剪枝技术，使用单个压缩比替代每层模型的分析，实现了自动通道选择，取得了超越常规方法的性能提升，训练不同模型和数据集的结果表明该方法减少了计算成本且更加准确。

    Jun, 2018