本文介绍了第一型 Anderson 加速在求解非光滑的固定点问题中的应用。通过交替使用保护步骤，采用 Powell 类型的正则化和重新启动检查强线性独立性更新，提出了第一个全局收敛的 Anderson 加速变体，假设固定点迭代是非扩张的。通过广泛的数值实验表明，许多一阶算法可以通过所提出的算法进行改进，特别是在终端收敛方面。本文所提出的加速方法正在 SCS 2.0 中得到实现，它是凸优化解析器求解器 CVXPY 1.0 中使用的默认求解器之一。

Aug, 2018

本文研究使用迭代加权最小二乘算法（IRLS）促进稀疏和可压缩向量恢复中的 l1 最小化，证明其收敛性和估计局部速率，并且展示了如何修改算法，以便在 t 小于 1 时促进 lt 最小化，并且这种修改有着超线性的收敛速率。

Jul, 2008

该研究通过探讨压缩感知和稀疏恢复问题等特定领域中的迭代算法，证明了使用共轭梯度法来解决二次优化问题可以在保证收敛的同时显著提高其复杂度，并发现 IRLS 方法在大维度情况下可以优于 IHT 和 FISTA 等一阶方法，并且在所需测量 fewer 的情况下仍可以恢复稀疏向量。

Sep, 2015

本文提出了一个解决低秩和 / 或稀疏矩阵最小化问题的一般框架，使用迭代重新加权最小二乘（IRLS）方法来解决混合低秩和稀疏最小化问题，例如用于解决 Schatten-p 规范和 ell_2,q-norm 规范的低秩表示问题，理论证明了所获得的解为静止点，并在合成和实际数据集上进行了广泛的实验以证明其有效性。

Jan, 2014

在这项工作中，我们对一类算法进行了统一的渐近性分析，其中包括了经典的迭代重新加权最小二乘（IRLS）算法、最近提出的用于线性神经网络的 lin-RFM 算法和线性对角神经网络上的交替最小化算法。我们的分析在一个 “批处理” 情境中进行，使用 i.i.d. 高斯协变量，并表明在适当选择重新加权策略的情况下，算法只需少数几次迭代就能取得良好的性能。我们还将我们的结果推广到了群稀疏恢复的情况，并证明利用这种结构在重新加权方案中比坐标加权明显改善了测试误差。

Jun, 2024

该研究提出了对 IRLS 鲁棒回归问题的全球模型恢复结果，建议加强基本 IRLS 例程，提供全球恢复的保证，可更好地抵御基本回归任务和应用任务的超参数错误，使用加权强凸和平稳性的新概念来理论分析。

Jun, 2020

本文探讨了在经典机器学习分类器中使用 Anderson 加速方法的有效性与实用性，实现了一种支持向量机分类器的变体，证明了使用 Anderson 加速可以显著提高收敛速度和降低训练损失，为今后在这一领域的应用提供了有力支持。

Feb, 2023

提出一种新的算法来恢复数据，该数据符合多个异构低维结构，并专注于同时为行稀疏和低秩的数据矩阵，该算法能够利用两种结构。

Jun, 2023

本文提出了一种基于 l_p 正则化无约束极小化问题的新方法，包括通过闭形式求解每个子问题的 IRL1 和 IRL2 变体，以及这些方法的收敛性分析和基于唯一的 Lipschitz 连续的 ε- 近似的新 IRL1 方法。我们的计算结果表明，该方法对于目标函数值和 CPU 时间通常比现有的 IRL1 方法更稳定。

Sep, 2012

通过再参数化和双层解析度的相结合，我们提出了一种新的通过线性系统解决 Lasso 问题的方法，可以适用于各种疏松规则和设计矩阵，我们通过数值实验表明了该方法的高效性和鲁棒性。

Jun, 2021