本文总结了最近应用图形模型和消息传递算法来解决大规模正则化回归问题的相关工作，特别关注通过 LASSO 或 BPDN 的压缩感知重建的解决方案，讨论了如何导出快速逼近消息传递算法来解决这个问题，新颖的算法分析能够证明 LASSO 风险的精确高维限制结果。

Nov, 2010

本研究比较了在求解有约束的 Lasso 问题中的几种不同的计算策略（包括二次规划、交替方向乘子法、以及一种高效的求解路径算法）。在通过模拟和真实数据示例的比较之后，提出了适用于不同数据规模下的实际建议，同时也发现一般化 Lasso 可以转化为有约束的 Lasso 问题，但反之则不成立。因此，该研究的方法也可以用于估计具有广泛应用的一般化 Lasso。

Oct, 2016

基于块坐标下降的快速可扩展算法用于解决广义线性模型中的群组套索和群组弹性网络问题，特别关注普通最小二乘损失（高斯损失），展示了每个块坐标更新可以通过牛顿方法高效解决，进一步利用自适应二分法进行改进，具有二次收敛速度。我们的基准测试显示，我们的 adelie 软件包在广泛的模拟和真实数据集上比下一个最快的软件包快 3 到 10 倍。此外，我们证明我们的软件包也是一个竞争的 lasso 求解器，与流行的 lasso 软件包 glmnet 的性能相当。

May, 2024

本文研究了基于 lasso 惩罚的回归问题，并提出了两个非常快的算法来估计回归系数，其中一个算法基于循环坐标下降，而另一个基于贪心坐标下降和 Edgeworth 的算法。此外，如果对参数进行分组并对每个组进行惩罚，则可以将现有算法扩展到新领域。

Mar, 2008

本文提出了一种缩减程序，可以在广义线性模型中进行同时变量选择和估计，以明确的预测动机为基础，结果与完整模型相似的预测性能下选择出一个简明模型。

Sep, 2010

本文介绍了 “逐一” 坐标下降算法及其在 $ L_1 $- 惩罚回归（套索）、garotte 和弹性网络等相关方法中的应用，证明了该算法可以与广泛应用的 LARS（或同伦）过程竞争，在大规模 lasso 问题中引起了不少关注。但注意到它并不适用于 “融合 Lasso”，所以论文提出了一个广义算法，在比标准的凸优化器运行时间更短的时间内得出了解决方案。最后，将该过程推广到二维融合 Lasso，并展示了其在一些图像平滑问题上的性能。

Aug, 2007

该论文提出了一种称为平方根 Lasso 方法的高维稀疏线性回归模型估计方法，该方法对于大量输入变量但只有少量参数起作用，不需要预估标准差，同时可以适用于高斯或非高斯误差数据。

Sep, 2010

研究了非线性观测信号估计问题，当信号属于高维空间中的低维集合时，可以使用广义 Lasso 方法，针对非线性观测信号进行噪声线性观察建模，通过信号重建结构降低误差，允许信号具有不连续、多义和未知的非线性特征，并允许测量矩阵的行具有未知的协方差矩阵。

Feb, 2015

本文提出了一种基于图的融合套索方法（GFlasso）用于结构化多任务回归问题，该方法利用了输出变量之间的图结构，通过融合惩罚函数鼓励高度相关的输出共享一组相关的输入，并提出了一种简单而有效的近端 - 梯度方法用于优化 GFlasso。

May, 2010

使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。

Jul, 2007