本文提出了多项式重新参数化方法，将 L_q 惩罚子集与 L_2 惩罚关联起来，提出了通过一种非常简单和直观的交替岭回归算法得出套索和其他规范化回归估计的方法，可避免一些数值不稳定性问题，同时在速度上也具有竞争力。此外，该算法可以扩展到适应稀疏高维情况、广义线性模型，并可用于通过参数协方差模型导出的惩罚项来创建结构稀疏。

Oct, 2016

本文提出了一种称为平滑近端梯度方法的通用优化方法，它能够解决带有平滑凸损失和广泛结构稀疏诱导罚款的结构稀疏回归问题，通过 Nesterov 的一般平滑技术实现了比标准一阶法更快的收敛速度，比大多数广泛使用的内点法更可扩展。

Feb, 2012

本文介绍从一般的角度分析在使用稀疏估计方法中相关的优化工具和技术，包括近端方法、块坐标下降、加权 L2 正则技术、工作集和家族方法以及非凸形式和扩展。同时，我们提供了一组广泛的实验来比较各种算法在计算方面的差异。

Aug, 2011

本文提出了一种通用的优化方法 —— 平滑近端梯度法 (SPG)，可以在结构化的稀疏惩罚下解决任何光滑凸损失的结构化稀疏回归问题。此方法在性能和可伸缩性方面都具有很大优势，并在模拟实验和真实的遗传数据集上进行了验证。

May, 2010

本文提出了一个非凸非光滑优化框架，其核心在于引入了截断的 Huber 惩罚函数来实现不同的平滑化效果，并展示了该方法在图像平滑处理中的有效性和优越性能。

Jul, 2019

本文提出了随机平滑正则化的框架，通过使用卷积平滑核作为正则化方法，可以在 Sobolev 空间上最优收敛，并且可以适应底层数据的结构假设，从而避免维度灾难。

May, 2023

本篇论文提出了一个理论框架，表明在适当的条件下，非凸正则化的全局解决方案可导致理想的稀疏恢复性能，并且在合适的条件下，全局解决方案对应于唯一的稀疏局部解决方案，其可通过不同的数值方法获得。该统一框架为凹形高维稀疏估计过程提供了更加令人满意的处理方法，并作为凹形正则化进一步数值程序发展的指导方针。

Aug, 2011

使用重点理论工具，在 Wasserstein 空间中进行局部收敛分析和扰动镜像下降分析，通过将度量离散化并运行非凸梯度下降来解决衡量函数的稀疏性惩罚问题，实现全局优化算法，其复杂度与凸多项式相比在所期望的精度下具有 log（1/ε） 的比例关系

Jul, 2019

本文研究了超参数化神经网络在存在随机噪声的情况下恢复真实目标函数的能力，证明了采用 L2 正则化的神经网络与相应的神经切线核的核岭回归输出相似，并可以实现 L2 估计误差的最佳最小值，数值实验证实了该理论，同时表明 L2 正则化方法提高了训练的鲁棒性并适用于更广泛的神经网络。

Jul, 2020

本文提出了适应性正则化硬阈值算法（ARHT）和置换正交匹配追踪算法（OMPR）用于优化一个凸函数的目标，同时在稀疏约束下，使用受限制条件数来分析各种算法的稀疏性保证，进一步研究了基于约束等距性的压缩感知。

Jun, 2020