介绍了一个用于求解线性系统和最小二乘问题的迭代方法 LSMR，可以处理稀疏矩阵和快速线性算子，以及探讨了该新迭代方法在额外可用内存的情况下的改进。

Jun, 2010

本篇研究文章使用快速 Johnson-Lindestrauss 变换以及基于随机 Hadamard 变换的方法，构造了一个较小的 Nonnegative Least Squares 问题，并在相对误差逼近意义下找到一个非负解，实验结果表明其在速度上有显著提升且不会丢失太多精度。

Dec, 2008

稀疏线性回归（SLR）是一个在统计学中研究得很多的问题，在该问题中，给定一个设计矩阵 X 和一个响应向量 y，目标是寻找一个最小化均方预测误差的 k - 稀疏向量 hat (theta)，该问题在设计矩阵良好条件下可以通过 L1 松弛方法解决，本文提供了关于所有有效算法的平均情况困难性证据，并基于格问题的最差情况困难性给出了 SLR 的平均情况困难性证据，同时还讨论了可辨别与不可辨别的情形。

Feb, 2024

本文提出了一个解决低秩和 / 或稀疏矩阵最小化问题的一般框架，使用迭代重新加权最小二乘（IRLS）方法来解决混合低秩和稀疏最小化问题，例如用于解决 Schatten-p 规范和 ell_2,q-norm 规范的低秩表示问题，理论证明了所获得的解为静止点，并在合成和实际数据集上进行了广泛的实验以证明其有效性。

Jan, 2014

利用核范数正则化寻找结构化低秩矩阵的问题，我们采用线性映射来编码结构，并提出了一种更有效的方法，与同类方法相比，该方法在迭代次数和计算成本上都有所改善，并在随机系统实现和光谱压缩感知问题中表现出色。

Sep, 2015

本文提出了用于解决初始情况下 $k$ 的大小小于等于 $3$ 的在线问题的近似算法，其中问题的目标是计算一个 $k$-sparse n 维向量，使误差最小化。假设给定一个 $d$ 维的点集，本文还会探讨如何在这个点集中找到最接近查询点 $q$ 的由 $k$ 个点张成的子空间的问题，以及该类问题的数据结构 / 算法和条件下界。

Sep, 2016

本文提出了一种使用一组非凸假设函数对矩阵奇异值进行 $L_0$- 范数逼近的非凸非光滑极小值问题，并采用 Iteratively Reweighted Nuclear Norm (IRNN) 算法进行求解。本文在合成和真实图像数据上进行了广泛的实验，证明了 IRNN 相比最先进的凸算法增强了低秩矩阵恢复的效果。

Oct, 2015

本篇论文提出一种新的权重规范化方法，即稳定秩规范化（SRN），可用于神经网络分类器和 GAN 中的分类器（SRN-GAN）。在实验中显示，使用 SRN 可以显著提高分类器和 GAN 生成结果的性能，同时减少记忆。

Jun, 2019

通过再参数化和双层解析度的相结合，我们提出了一种新的通过线性系统解决 Lasso 问题的方法，可以适用于各种疏松规则和设计矩阵，我们通过数值实验表明了该方法的高效性和鲁棒性。

Jun, 2021

在这项工作中，我们对一类算法进行了统一的渐近性分析，其中包括了经典的迭代重新加权最小二乘（IRLS）算法、最近提出的用于线性神经网络的 lin-RFM 算法和线性对角神经网络上的交替最小化算法。我们的分析在一个 “批处理” 情境中进行，使用 i.i.d. 高斯协变量，并表明在适当选择重新加权策略的情况下，算法只需少数几次迭代就能取得良好的性能。我们还将我们的结果推广到了群稀疏恢复的情况，并证明利用这种结构在重新加权方案中比坐标加权明显改善了测试误差。

Jun, 2024