本文介绍了使用通道卷积压缩深度模型的方法，这种方法在 CNN 中替换特征图之间的稠密连接为稀疏连接，从而构建轻量级 CNN。ChannelNets 使用三种通道卷积的实例，并通过对 ImageNet 数据集进行实验来证明了其在参数和计算成本上的显著性降低，且不影响准确性。

Sep, 2018

本研究提出了极致轻量化的神经网络结构，同时设计了一种新颖的集成融合方法和数据集，以提高人脸反欺诈检测的性能和鲁棒性。

Apr, 2019

本文介绍了 MicroNet，一种高效的卷积神经网络，利用极低的计算成本（例如，在 ImageNet 分类中为 6 MFLOPs）。这种低成本网络在边缘设备上非常受欢迎，但通常会遭受显著的性能下降。我们提出了 Micro-Factorized 卷积和 Dynamic Shift-Max 激活函数两个设计原则，为构建性能显著优于现有最佳法在低 FLOP 区间的 MicroNets 打下基础，例如，MicroNet-M1 在 ImageNet 分类中以 12 MFLOPs 为 6.1％，超过 MobileNetV3 的 11.3％。

Nov, 2020

本论文提出了两种新的方法 —— 微型分解卷积和动态移位最大化激活函数，并将其应用在一种新型网络 MicroNet 中，使得在低计算复杂度条件下，ImageNet 分类任务 top-1 精度能够比 MobileNetV3 高出 9.6 个百分点。

Aug, 2021

神经网络的计算需求逐渐增加，同时对资源有限的设备提出了部署挑战。网络剪枝是在保持性能的同时减小模型大小和计算成本的解决方案。本文提出了 FALCON，一种基于组合优化的网络剪枝框架，同时考虑了模型准确性、FLOPs 和稀疏性约束。我们的算法可以解决含有数百万参数的问题实例，并证明在固定 FLOP 预算下，FALCON 相比其他剪枝方法具有更高的准确性。此外，在逐步剪枝设置中，我们的框架表现优于现有的剪枝方法，强调了对有效网络剪枝而言，结合 FLOP 和稀疏性约束的重要性。

Mar, 2024

本文介绍了一种新的神经网络，通过轻量级级联网络、流规则化层和特征提取的结构来提高光流估计的准确度，并且比现有的 FlowNet2 在模型大小和运行速度等方面都有所优化。

May, 2018

该论文提出了一种基于滤波器组逼近的新型分解方法，该方法可以显著减少深度卷积神经网络中的冗余，同时保持大部分特征表示，通过在每层中利用滤波器组结构，相比于其他基于低秩分解算法，我们的方法可以在多个图像分类数据集上减少 80% 以上的算术运算量（FLOPs），并减少精度损失，另外，实验证明我们的方法有助于缓解压缩网络的退化现象，从而提高网络的收敛性和性能。

Jul, 2018

本文提出了一种名为 “网络瘦身” 的新颖学习方案，可以通过引入通道级稀疏性，简化深度卷积神经网络，降低了其计算成本，减小了运行时内存占用，同时不影响准确度。我们进行了多组实验，证明了该方案在各种图像分类数据集上具有较好的效果。

Aug, 2017

通过采用一种新颖的稀疏连接结构，类似于树根，在利用层间滤波器依赖性的稀疏性的基础上，我们提出了一种新的方法来创建计算效率高且紧凑的卷积神经网络（CNN）。我们在 CIFAR10 和 ILSVRC 数据集上训练采用这种方法的 CNN 体系结构，结果表明，与基线架构相比，在较少的计算量情况下能实现类似或更高的准确率和更少的参数数量和浮点运算数。

May, 2016

通过在目标平台上评估直接指标，本文提出了一些实用的指导方针，给出了一个名为 ShuffleNet V2 的新型神经网络架构，并通过全面的消融实验验证了其在速度和准确性之间的平衡是最优的。

Jul, 2018