该论文描述了一种基于随机正常投影的并行迭代最小二乘求解器，可以通过使用 Tikhonov 正则化和支持稀疏矩阵的 Chebyshev 方法对可能是奇异矩阵的病态系统进行有效求解。

Sep, 2011

本文提出了一个解决低秩和 / 或稀疏矩阵最小化问题的一般框架，使用迭代重新加权最小二乘（IRLS）方法来解决混合低秩和稀疏最小化问题，例如用于解决 Schatten-p 规范和 ell_2,q-norm 规范的低秩表示问题，理论证明了所获得的解为静止点，并在合成和实际数据集上进行了广泛的实验以证明其有效性。

Jan, 2014

稀疏线性回归（SLR）是一个在统计学中研究得很多的问题，在该问题中，给定一个设计矩阵 X 和一个响应向量 y，目标是寻找一个最小化均方预测误差的 k - 稀疏向量 hat (theta)，该问题在设计矩阵良好条件下可以通过 L1 松弛方法解决，本文提供了关于所有有效算法的平均情况困难性证据，并基于格问题的最差情况困难性给出了 SLR 的平均情况困难性证据，同时还讨论了可辨别与不可辨别的情形。

Feb, 2024

本文研究使用迭代加权最小二乘算法（IRLS）促进稀疏和可压缩向量恢复中的 l1 最小化，证明其收敛性和估计局部速率，并且展示了如何修改算法，以便在 t 小于 1 时促进 lt 最小化，并且这种修改有着超线性的收敛速率。

Jul, 2008

该研究通过探讨压缩感知和稀疏恢复问题等特定领域中的迭代算法，证明了使用共轭梯度法来解决二次优化问题可以在保证收敛的同时显著提高其复杂度，并发现 IRLS 方法在大维度情况下可以优于 IHT 和 FISTA 等一阶方法，并且在所需测量 fewer 的情况下仍可以恢复稀疏向量。

Sep, 2015

该研究设计了一种类似于 MINRES 的算法来计算对称系统的最小长度解，并且得到了预处理的 MINRES-QLP 算法、新的停止规则和更好的解和残差范数以及矩阵范数和条件数的估计。

Mar, 2010

通过再参数化和双层解析度的相结合，我们提出了一种新的通过线性系统解决 Lasso 问题的方法，可以适用于各种疏松规则和设计矩阵，我们通过数值实验表明了该方法的高效性和鲁棒性。

Jun, 2021

在这项工作中，我们对一类算法进行了统一的渐近性分析，其中包括了经典的迭代重新加权最小二乘（IRLS）算法、最近提出的用于线性神经网络的 lin-RFM 算法和线性对角神经网络上的交替最小化算法。我们的分析在一个 “批处理” 情境中进行，使用 i.i.d. 高斯协变量，并表明在适当选择重新加权策略的情况下，算法只需少数几次迭代就能取得良好的性能。我们还将我们的结果推广到了群稀疏恢复的情况，并证明利用这种结构在重新加权方案中比坐标加权明显改善了测试误差。

Jun, 2024

基于最小二乘估计的迭代算法可以用于重建低秩矩阵，并且针对线性结构的矩阵和正半定矩阵等具有先验知识的矩阵，有更好的性能，称为交替最小二乘 (ALS) 算法，并通过模拟实验和 Cramér-Rao 下界进行了比较。

Jun, 2012

本文提出了谐波均值迭代加权最小二乘（HM-IRLS）算法，应用于从不完整的线性观测中恢复秩为 r 的矩阵 X，通过一系列低复杂度的线性问题求解，以优化非凸的 Schatten-p 准范罚项，以提高低秩性。HM-IRLS 算法具有三个主要优势，尤其是在矩阵完成设置中：第一，算法自变量对于相关感兴趣的情况下以低秩矩阵呈现出显着的全局收敛性；第二，即使线性观察值的数量非常接近理论下界 r（d1+d2-r），HM-IRLS 表现出接近 1 的经验恢复概率；第三，如果线性观察满足适合的零空间属性，则 HM-IRLS 表现出局部超线性收敛速度（2-p）的优势。

Mar, 2017