该研究介绍了一种简单而有效的方法（称为 DCP），旨在尽可能地选择实际有助于卷积神经网络判别能力的通道，并进一步通过去除多余的内核来压缩深层网络，同时通过自适应停止条件来防止选择冗余的通道 / 内核并实现更好的性能。

Jan, 2020

本研究提出一种新的卷积神经网络通道剪枝方法，采用软化掩码方式剪枝，从而实现网络速度显著加快并限制成本，同时在 ImageNet 分类和 PASCAL VOC 检测数据集上取得了优异的表现。

Nov, 2022

介绍了一种有效的基于鉴别力的通道剪枝方法，利用额外的损失函数增加中间层的鉴别力并根据重构误差和额外损失函数选择最具鉴别力的通道，并提出了一种迭代贪心算法来优化参数和通道选择。对类似于 ILSVRC-12 的测试数据，使用该算法对 ResNet-50 剪枝显示出相当有效的性能。

Oct, 2018

深度神经网络剪枝是减少模型大小、提高推理延迟和降低深度神经网络加速器功耗的一种关键策略。我们介绍了一种新型的、独立且可微的剪枝方法 (SMART pruner)，它通过利用独立的、可学习的概率掩码来排名权重重要性，采用可微分的前 k 个操作符实现目标稀疏性，并利用动态温度参数技巧逃离非稀疏局部最小值。实验证明，SMART pruner 在各种任务、模型和剪枝类型上始终表现出优于现有剪枝方法的优越性。此外，在 N:M 剪枝情况下，我们还针对基于 Transformer 的模型进行了测试，SMART pruner 也取得了最先进的结果，展示了它在各种神经网络架构和剪枝类型上的适应性和鲁棒性。

Mar, 2024

本论文提出了一种简单而有效的数据驱动信道剪枝算法，该算法通过利用操作的特性以可微分的方式压缩了深度神经网络，并对批次归一化和修正线性单元进行了联合考虑，以评估连接每个特征图的两个连续操作关闭其的可能性并修剪概率高的信道。

Jul, 2020

提出一种高效、有效的训练时裁剪方案 ——Parameter-free Differentiable Pruning（PDP），可适用于各种视觉和自然语言任务，支持无结构裁剪约束，基于训练时动态权重函数生成软裁剪掩码并得到最新的模型大小、精确度和培训成本。

May, 2023

本文提出了一种基于遗传算法的新型通道剪枝方法，通过分层和知识蒸馏框架的剪枝中，显著降低了模型的冗余，并在三个基准数据集上验证其性能。

May, 2018

本文提出了一种名为动态结构修剪的结构修剪方法，基于组梯度学习实现了细粒度修剪，并在训练深度神经网络时优化修剪粒度，实验结果表明在 ImageNet 数据集上，动态结构修剪对 ResNet50 模型进行修剪可将 FLOPs 降低 71.85% 且不影响模型准确率，并在 GPU 加速方面优于通道修剪。

Mar, 2023

本文提出了一种新颖的模型压缩技术，称为 Gates with Differentiable Polarization（GDP），该技术可以在不影响模型性能的情况下控制每个通道或层块，优于常规采样和基于门控的剪枝方法，经实验证明在各类深度神经网络压缩方案中取得了最优性能提升。

Sep, 2021

本研究提出了一种基于 DCP 的定位感知辅助网络，用于直接剪枝目标检测中的关键信息通道，相较于现有的技术，可以在减少 70% 的参数的同时，保持检测准确度，提高计算效率。

Nov, 2019