本文提出了一个解决低秩和 / 或稀疏矩阵最小化问题的一般框架,使用迭代重新加权最小二乘(IRLS)方法来解决混合低秩和稀疏最小化问题,例如用于解决 Schatten-p 规范和 ell_2,q-norm 规范的低秩表示问题,理论证明了所获得的解为静止点,并在合成和实际数据集上进行了广泛的实验以证明其有效性。
Jan, 2014
该研究通过探讨压缩感知和稀疏恢复问题等特定领域中的迭代算法,证明了使用共轭梯度法来解决二次优化问题可以在保证收敛的同时显著提高其复杂度,并发现 IRLS 方法在大维度情况下可以优于 IHT 和 FISTA 等一阶方法,并且在所需测量 fewer 的情况下仍可以恢复稀疏向量。
Sep, 2015
该研究提出了对 IRLS 鲁棒回归问题的全球模型恢复结果,建议加强基本 IRLS 例程,提供全球恢复的保证,可更好地抵御基本回归任务和应用任务的超参数错误,使用加权强凸和平稳性的新概念来理论分析。
Jun, 2020
该研究提出了一种新颖的优化策略,用于分析图像正则化下的图像重建任务,推动在一些学习转换域中稀疏和 / 或低秩解,并通过学习网络实现了较高性能。
Aug, 2023
本文研究使用迭代加权最小二乘算法(IRLS)促进稀疏和可压缩向量恢复中的 l1 最小化,证明其收敛性和估计局部速率,并且展示了如何修改算法,以便在 t 小于 1 时促进 lt 最小化,并且这种修改有着超线性的收敛速率。
Jul, 2008
在这项工作中,我们对一类算法进行了统一的渐近性分析,其中包括了经典的迭代重新加权最小二乘(IRLS)算法、最近提出的用于线性神经网络的 lin-RFM 算法和线性对角神经网络上的交替最小化算法。我们的分析在一个 “批处理” 情境中进行,使用 i.i.d. 高斯协变量,并表明在适当选择重新加权策略的情况下,算法只需少数几次迭代就能取得良好的性能。我们还将我们的结果推广到了群稀疏恢复的情况,并证明利用这种结构在重新加权方案中比坐标加权明显改善了测试误差。
Jun, 2024
提出一种新的算法来恢复数据,该数据符合多个异构低维结构,并专注于同时为行稀疏和低秩的数据矩阵,该算法能够利用两种结构。
Jun, 2023
提出了一种基于学习的稀疏和低秩约束的图像恢复新优化算法,并将其和现有算法进行了比较和评估。
Apr, 2023
利用变分正则化方法求解线性反问题时,采用超参数调节正则化项,通过强化先验信息来提高求解结果,核心问题在于如何选择一个合适的正则化参数。本文提出了一个新的条件来更好地描述正则化参数的正性,并验证和探索了这个新条件,同时也探究了这个新条件在小和大维问题上的应用。
May, 2023
使用变分正则化方法,通过双层学习来学习合适的超参数,同时提出了能够收敛到损失函数超参数的稳定点的近似回溯线搜索算法,并在变分正则化问题的超参数估计中展示了其有效性和可行性。