本文介绍了一种名为 CondenseNet 的新型神经网络体系结构，其使用学习组卷积方法实现了稠密连接，移除了那些无用的连接，并使得此模型比类似 MobileNets 和 ShuffleNets 的最先进紧凑卷积网络更为高效。

Nov, 2017

该论文提出了一种通过消除冗余特征（或滤波器）来修剪深度和 / 或宽度卷积神经网络模型的高效技术，其依据特征空间中的相对余弦距离区分它们和它们的连接特征映射并优化精度和推理性能，但优化后的算法能将 VGG-16 的推理成本降低 40％、ResNet-56 的推理成本降低 27％、ResNet-110 的推理成本减少 39％。

Feb, 2018

本文提出了使用稀疏神经连接学习高性能的深度卷积神经网络（称为稀疏 ConvNets）进行人脸识别。通过迭代学习，每次稀疏化一层神经元，并使用先前迭代中学习的初始权重重新训练整个模型，作者发现将稀疏 ConvNet 直接从头开始训练对于人脸识别效果不佳。同时，作者提出了一种新的基于神经相关性的权重选择准则，并验证其有效性，用以在每次迭代中从先前学习的模型中选择有意义的连接。在适度稀疏的结构下（在稠密模型中的权重占比为 26%-76%），与 DeepID2+ 的性能相比，所提出的稀疏 ConvNet 从相同的训练数据中显著提高了人脸识别性能，与只有原始参数的基线模型性能相当。

Dec, 2015

本文介绍了如何通过交叉通道池化技术减少轻量级卷积神经网络的计算复杂度，提高对象检测的准确性，并采用 Condensation-Net 算法，实现在有限的硬件资源平台上的图像识别任务。

Apr, 2021

本文介绍了一种新型的基于拼贴的稀疏卷积算法，通过利用计算掩码的稀疏结构，降低了 CNN 中高分辨率计算的复杂度，并应用于基于 LiDAR 的 3D 目标检测中，最终获得了显著的速度提升而无需牺牲准确率。

Jan, 2018

本文提出了一种稀疏 DenseNet 的方法，可以使神经网络在更低的参数和计算代价下实现深度、宽度和连接的同时，在 CIFAR10 和 SVHN 数据集上比现有 state-of-the-art 模型的性能更优，并且相比原始 DenseNet 小 2.6 倍，速度快 3.7 倍。

Apr, 2018

探讨了如何在图像识别的语义分割领域中，采用 ReNet 层代替全卷积神经网络中的级联卷积和池化层来使局部感受野具有全局信息，并开发了一种新的混合深层 ReNet（H-ReNet）模型，经实验证明其在 PASCAL VOC 2012 基准测试中的识别准确度比 Piecewise、CRFasRNN 和 DeepParsing 高 3.6%、2.3% 和 0.2%。

Mar, 2016

通过实验证明了通过在卷积层之间停用连接的方法将采用通道稀疏连接结构的 2D 卷积技术与许多网络体系结构一起使用，可以在保持准确性的同时实现明显的运行时间和内存储存器的节省。

Feb, 2017

为提高高加速因子下的压缩感知 MRI 图像重构的结构损失，本研究提出了一种基于迭代特征精化模型 (IFR-CS) 的监督模型驱动网络 (IFR-Net)，其具有快速重构速度和保持结构信息的优点，同时探索了基于卷积神经网络 (CNN) 的稀疏性增强去噪模块。

Sep, 2019

本论文提出了一种基于选择性特征压缩的动作识别推理策略，通过在时空维度上压缩特征流来显著提高推理效率，从而减少内存使用并略微提高 Top1 精度，实验表明该方法可以代替常用的 30 次裁剪密集采样过程。

Apr, 2021