本文指出，关于促进稀疏性的更强大的贝叶斯算法具有类似于长短期记忆 (LSTM) 网络或先前设计用于序列预测的替代门控反馈网络的结构，从而导致了一种新的稀疏估计系统，当授予训练数据时，可以在其他算法失败的方案中高效地估计最优解，包括在实际方向 - 到达 (DOA) 和三维几何恢复问题中。
Jun, 2017
非参数方法估计部分导数与稀疏深度神经网络的参数估计结合，为深度神经网络的可解释性提供了有前景的研究结果。
Jun, 2024
该论文提出一种基于深度学习的动态网络深度算法，通过在每一层引入终止得分，学习了解每个任务需要执行几层以获得最佳输出，并在稀疏信号恢复和通信信道估计方面表现出更高效和更好的性能。
Oct, 2020
本文针对图像超分辨率问题，提出一种结合传统稀疏编码模型和深度学习技术的神经网络模型，该模型在多种图像上已被证明在恢复精度和主观质量方面均优于目前现有的最先进方法。
Jul, 2015
本文研究基于稀疏性的模型和技术在信号处理和图像应用中的应用，提出了针对特定结构的稀疏化运算符学习问题的交替最小化算法，并对其收敛性进行了分析，证明了在某些假设下，该算法收敛于数据的基础稀疏化模型。同时，数值模拟表明该算法对初始值具有较强的鲁棒性。
May, 2018
该论文提出了使用稀疏组套索惩罚来适应神经网络以解决非参数高维问题，其中真实功能位于低维子空间中，并对统计收敛性进行了表征。
Nov, 2017
本文发展了使用分布式算法解决低秩矩阵加上压缩矩阵与稀疏矩阵乘积的分离任务，建立了分布式稀疏正则化秩最小化的算法框架，其中采用核范数和 l1 范数用作所需矩阵的秩和非零条目数的替代，使用交替方向乘法的分离算法来最小化经过采样和压缩的数据的秩和 nonzeros，从而解决了一些网络优化问题。
Mar, 2012
该研究尝试从速率减少和（移位）不变分类的原理解释现代深度（卷积）网络，并提供了一种基于梯度优化方案的前向传播方法来构建网络，其中包括层级结构，线性和非线性操作以及参数。此方法还揭示和证明了深度网络早期阶段的多通道升级和稀疏编码的作用，正式强制分类为严格移位不变时，所得到的网络的所有线性操作自然成为多通道卷积。同时，该卷积网络训练所需的成本更低，学习效率更高。初步模拟和实验表明，即使没有任何反向传导训练，基于该理论构建的深度网络已经可以学习良好的判别表示。
研究了深度学习模型过度参数化和随机梯度下降的泛化能力现象，探讨了稀疏恢复的情况，提出了一种相应的超参数化均方误差损失函数，证明了该函数的梯度下降可以收敛到最小 L1 范数的好近似解。
Dec, 2021
该研究探讨如何将矩阵分解为多个稀疏矩阵，提出了一种在随机性和稀疏性假设下的算法，该算法能够恢复深度学习网络中各层之间边的结构、隐藏单元的值，矩阵分解、稀疏恢复、字典学习与深度学习之间具有密切关联。
Nov, 2013