本文提出了一种新的通道修剪技术 REPrune，利用层次聚类方法在每个通道中识别相似的卷积核，并通过最大化聚类覆盖问题来选择卷积滤波器，结合同时训练和修剪的范式，实现训练过程中的高效修剪，实验结果显示 REPrune 在计算机视觉任务中表现优于现有方法，有效地在加速率和性能保留之间取得平衡。

Feb, 2024

本文提出了一种基于 ResConv 和 L1 正则的简单的层剪枝方法，该方法在不需要重新训练的情况下，在各种数据集上实现了良好的压缩和加速表现。

Nov, 2020

本研究提出一种名为 REPrune 的新颖剪枝方法，通过聚类选择代表性滤波器，从而获得更好的压缩率并提高精度。实验证明，REPrune 方法可以在保持相似精度的情况下，减少 49% 的 FLOPs。

Jul, 2020

本文提出了一种名为 MaskSparsity 的新型网络剪枝方法，使用有意义的稀疏正则化方法来选择特定滤波器，以获得更好的模型压缩效果，并在不损失模型准确性的情况下，在 Deep Learning 领域实现 63.03% 的 FLOP 降低和 60.34% 的参数减少。

Jan, 2022

我们提出了 PruneTrain，这是一种成本高效的机制，可逐步减少训练期间的计算成本，通过使用结构化组套骨骼正则化方法和其他重新配置技术，可以在 GPU 加速器上高效处理缩小了的卷积神经网络模型，从而实现减少计算成本 40％和训练时间 39％的效果。

Jan, 2019

本论文提出了三种无需重新训练即可进行卷积神经网络稀疏化的方法，研究表明，这些方法能够使得最先进的模型权重减少高达 73％（压缩因子为 3.7 倍），而最多只会损失 5％的 Top-5 精度，附加的微调只能获得 8％的稀疏度，这表明我们的快速稀疏化方法是有效的。

Nov, 2018

通过在全连接层中加入留先验，我们提出了 RepMLP 这个用于图像识别的神经网络模块。我们将卷积层嵌入 RepMLP 中，从而结合了全局表征能力和位置感知能力，并通过在 CNN 中插入 RepMLP 进一步提高了准确性。

May, 2021

本文提出了动态重参数化方法，通过优化计算效率、提升表征能力，采用 mini-batch 实现动态演化神经网络，并将其应用于 ResNet-18 模型上，结果表明：在 ImageNet 数据集上，相比基线模型，精度提升了 2.04％，运行时长降低了 22％。

Mar, 2022

提出了一种逐步分配不同正则化因子的新型正则化剪枝方法（称为 IncReg），可在不影响 CNN 性能的情况下消除冗余参数，有效性通过与最先进的方法相比较后在流行的 CNN 上得到证明。

Nov, 2018

本文提出了一种新的神经元修剪框架 —— 分层分解重构框架（LDRF），它能够在嵌入空间中恢复每一层的输出信息，并传播至后续被修剪的层，保留有用信息，相比现有方法在 ILSVRC-12 基准测试中能够实现 5.13-3 倍的速度提升，并且只有 0.5％和 0.65％的 top-5 准确性下降。

Dec, 2018