- 通过零通道剪枝实时高分辨率图像的通用风格转移
本文提出了一种基于 ArtNet 的,在风格转移应用特别设计的零通道修剪算法以及一种理论上有根据的三明治交换变换(S2)模块,可以实现高分辨率图像上的通用,实时和高质量的风格转移。经全面实验验证,ArtNet 能够同时实现 68.03 FP - ICLRPruneNet: 全局重要性通道剪枝
本文提出了一种简单而有效的基于数据驱动优化的频道修剪方法,该方法通过每层发现必要的宽度,以非均匀修剪 ResNet-50 等深度神经网络,实现了与现有方法相同的 FLOP 降低率,同时提高了 0.98%的准确度,并优于其他深度神经网络如 R - CVPRDMCP:神经网络可微分马尔可夫通道剪枝
本文提出了一种基于马尔可夫过程的可微信道修剪方法 Differentiable Markov Channel Pruning (DMCP),它可以通过梯度下降直接优化标准任务损失和预算规则来有效地搜索最优子结构,并可以在各种 FLOPs 设 - ECCV开箱即用的通道裁剪网络
本文探讨了基于随机或基于度量的通道剪枝策略以及使用强化学习寻找可转移的层面剪枝策略,结果表明后者能够将剪枝策略应用于新数据集并获得压缩的同时保持精度。
- AAAI基于分类损失和特征重要性的通道剪枝指导
本论文提出了一种新的分层通道剪枝方法 CPLI,它考虑了分类损失和特征重要性,并进一步改进了现有的方法,通过新策略抑制不重要特征的影响,并在三种基准数据集(CIFAR-10,ImageNet 和 UCF-101)上取得了显著的效果。
- 面向嵌入式 GPU 的性能感知卷积神经网络通道剪枝
本研究旨在通过对卷积神经网络的通道剪枝方法进行优化,以提高在移动和嵌入式设备上的计算效率,虽然有些情况下通道剪枝算法可能会损害计算性能,但是我们还是发现采用基于性能的剪枝会达到预期的效果。
- IJCAI自动结构搜索通道剪枝
本研究提出了一种基于人工蜂群算法的新型通道剪枝方法,名为 ABCPruner,通过优化每一层的通道数量来寻找最优的剪枝结构,相比于以往的方法,该方法能够有效地减少剪枝结构的组合数量并且更加高效。
- AAAI元学习实现的实时物体跟踪:高效模型自适应和单次通道剪枝
本文提出了一种新颖的 meta-learning 框架,用于实时物体跟踪,其中实现了高效的模型自适应和通道修剪,并通过精心设计的跟踪模拟来训练元跟踪器,显著提高了跟踪性能。
- 面向目标检测的局部感知通道裁剪
本研究提出了一种基于 DCP 的定位感知辅助网络,用于直接剪枝目标检测中的关键信息通道,相较于现有的技术,可以在减少 70% 的参数的同时,保持检测准确度,提高计算效率。
- SlimYOLOv3:针对实时无人机应用更窄、更快、更好
本论文介绍通过通道剪枝和 L1 正则化实现深度物体探测器的学习,从而获得适用于 UAV 平台的实时目标检测器 SlimYOLOv3,其对比 YOLOv3 具有更少的可训练参数、更低的浮点运算次数和参数大小、更快的运行速度和相当的检测准确率。
- CVPROICSR:用于紧凑型深度神经网络的通道内外稀疏正则化
本文提出了一种基于 Out-In-Channel 稀疏正则化(OICSR)的全局贪心利用相关性检测权重,进而实现对多个连续卷积层的稀疏化压缩,并设计了一种全局贪心裁剪算法来进一步压缩卷积神经网络的 FLOPs,同时在准确率方面也取得了优于原 - ICML通过结构冗余减少研究通道剪枝 -- 统计研究
本研究从网络层面出发探讨通道剪枝问题,提出高冗余层的随机剪枝方案能够更有效地提高神经网络的计算效率和准确性。
- ICCVMetaPruning:用于自动神经网络通道剪枝的元学习
本文提出了一种基于元学习的通道自动剪枝方法。首先使用简单的随机结构采样方法训练一个 PruningNet 元网络,然后应用演化搜索方法寻找良好表现的剪枝网络,其效率高且无需在线微调。实验结果表明,相比现有的剪枝方法,该方法在 MobileN - 深度网络的多损失感知通道剪枝
本文提出了一种新的通道剪枝方法,通过使用基线模型的中间输出和剪枝模型的分类损失来监督分层通道选择,并通过考虑重建误差、附加损失和分类损失来显著提高剪枝模型的性能。
- 递归贝叶斯剪枝加速 CNN
提出一种递归贝叶斯剪枝方法(RBP)来加速卷积神经网络,在考虑层间依赖的情况下使用基于 dropout 的冗余度测量法,解决了传统方法忽略层间依赖的问题。实验表明,该方法在多种 CNN 体系结构上的性能优于现有方法,尤其在大规模数据集 IL - 混合剪枝:用于边缘设备快速推理的更薄稀疏网络
本文介绍了一种混合剪枝方法,将粗粒度通道和细粒度的权重剪枝相结合,以在资源受限设备上部署现代网络时减少模型大小、计算和功率需求,而无损或几乎无损精度的同时,提出了快速灵敏度测试的通道剪枝方法,可以快速确定网络层内部和跨层级的灵敏度,实验表明 - 深度神经网络的鉴别感知通道剪枝
介绍了一种有效的基于鉴别力的通道剪枝方法,利用额外的损失函数增加中间层的鉴别力并根据重构误差和额外损失函数选择最具鉴别力的通道,并提出了一种迭代贪心算法来优化参数和通道选择。对类似于 ILSVRC-12 的测试数据,使用该算法对 ResNe - ICLR动态通道修剪:特征增强与抑制
通过 feature boosting and suppression(FBS)方法预测性增强显著卷积通道及跳过不重要通道,动态运行时省略无关重要的输入或输出通道的卷积神经网络(CNN),并在 ImageNet 分类任务中取得了大幅提升。
- 一种深层神经网络压缩的新型通道修剪方法
本文提出了一种基于遗传算法的新型通道剪枝方法,通过分层和知识蒸馏框架的剪枝中,显著降低了模型的冗余,并在三个基准数据集上验证其性能。
- AutoPruner:一种端到端可训练的过滤器剪枝方法,用于高效的深度模型推断
通过将通道修剪和模型微调合并为单个端到端可训练的系统,使用自动修剪器来找到不重要的滤波器。所生成的真二元指数代码可以安全地删除运用于微调后的模型中。相较于之前的优秀修剪算法,AutoPruner 能够显著提高性能。慢慢擦除几个弱滤波器可以防