本篇研究探讨了从不同角度解决深度神经网络在机器学习任务中高效且低内存使用的问题，提出了基于实例的特征修剪方法，并使用变异系数作为度量标准进行层选择，实验结果表明该方法有效。

Jul, 2019

本文研究了深度神经网络的泛化能力和节点稀疏性之间的关系，通过开发一个基于减小的有效模型大小的框架来证明了稀疏和泛化之间的基本权衡关系，并提出了一种新的方法来分析这个问题。

Jul, 2023

研究表明，使用 Batch Normalization 和 ReLU 激活的卷积神经网络，在采用适应性梯度下降和 L2 正则化或权重衰减训练的情况下，会出现滤波器级别的稀疏性，这种隐式的稀疏性可以利用以达到神经网络加速的效果。

Nov, 2018

本文提出了使用稀疏神经连接学习高性能的深度卷积神经网络（称为稀疏 ConvNets）进行人脸识别。通过迭代学习，每次稀疏化一层神经元，并使用先前迭代中学习的初始权重重新训练整个模型，作者发现将稀疏 ConvNet 直接从头开始训练对于人脸识别效果不佳。同时，作者提出了一种新的基于神经相关性的权重选择准则，并验证其有效性，用以在每次迭代中从先前学习的模型中选择有意义的连接。在适度稀疏的结构下（在稠密模型中的权重占比为 26%-76%），与 DeepID2+ 的性能相比，所提出的稀疏 ConvNet 从相同的训练数据中显著提高了人脸识别性能，与只有原始参数的基线模型性能相当。

Dec, 2015

研究发现，在采用批归一化和 ReLU 激活以及使用自适应梯度下降技术和 L2 正则化或权值衰减训练的卷积神经网络中，存在着隐式过滤器级别稀疏性，这可能与某些在文献中提出的过滤器稀疏化启发式的特定联系有关。进一步观察表明，特定功能的出现和随后的修剪是导致特征稀疏化的机制之一，导致的特征稀疏性与某些显式稀疏化 / 修剪方法相当甚至更好。本文总结了研究发现，并指出了选择性功能处罚的推论，这也可作为过滤器修剪的启发式方法。

May, 2019

本文系统梳理了当前深度学习领域中关于稀疏性技术的研究现状，并提供了丰富的稀疏性实现、训练策略及其数学方法等方面的教程，指明如何通过利用稀疏性以达到优化神经网络结构和提高性能的目的。

Jan, 2021

使用标准的计算机视觉和自然语言处理稀疏基准测试，探讨高稀疏性对模型训练的影响，提供了一种解决有关稀疏训练困难的新方法，并在高稀疏性环境下实现了在视觉模型和语言模型上最先进的结果。

Aug, 2023

本研究提出了一种基于可解释的 attention mechanism 的网络修剪方法，能在保持准确率的前提下实现模型压缩和加速，可适用于各种结构的深度神经网络。实验证明，在 Cifar-100 数据集上取得了最高的稀疏度和加速比，与最佳方法相比准确率相当；在 MNIST 和 LeNet 架构上也取得了最高的稀疏度和加速比。

Jan, 2019

论文研究了稀疏估计算法、神经网络层和深度网络学习在估计准确性方面的应用，展示了深度网络学习可以在稀疏字典具有连贯列时恢复最小 L0 范数表示的潜力，并应用于三维场景表面法线的实际测量问题中。

May, 2016

本文研究了卷积神经网络（CNN）压缩问题并提出了基于内在结构的新颖解释方法，借助该方法提出了核稀疏和熵（KSE）指标以定量化特征图的重要性，进而指导模型压缩，并开展了基于 KSE 指标的核聚类以实现高精度 CNN 压缩，同时具有高效率和优越性能。

Dec, 2018