交替最小化法保证加权低秩逼近的恢复
本研究提供了一种有效和稳健的交替最小化框架来解决线性代数和机器学习中的一些问题,关注于都市中加权矩阵的低秩矩阵近似问题,并将运行时间从之前的 n^2k^2 降至 n^2k。
Jun, 2023
使用一种基于交替最小化的新算法,在标准不连贯性假设下,可从一个未知的低秩矩阵中恢复随机子样本的条目,并减少至少一次方之秩和相似矩阵的条件数的交替最小化方法的样本大小要求。
Dec, 2013
本研究提出了一种更灵活的模型,称为加权 Schatten p - 范数最小化,用于恢复低秩矩阵。该模型不仅提供了更好的低秩矩阵逼近,并且考虑了不同秩分量的重要性。使用加权 Schatten p - 范数最小化在低级视觉问题(如图像去噪和背景减法)方面,相对于现有方法,可以更有效地去除噪声,对复杂和动态场景进行建模。
Dec, 2015
本研究探讨通过非凸优化从线性测量(即矩阵感知)中估计低秩矩阵的问题,并建议了一种有效的随机方差减少梯度下降算法来解决此问题。我们的算法适用于有噪声和无噪声的情况。在有噪声的情况下,我们证明了该算法在最小化统计误差方面以线性速率收敛于未知低秩矩阵。在无噪声的情况下,我们的算法保证线性收敛于未知低秩矩阵,并在最优采样复杂度下实现了精确恢复。值得注意的是,我们提出的算法的总计算复杂度(定义为迭代复杂度乘以每次迭代时间复杂度)低于基于梯度下降的最新算法。用合成数据的实验证明了该算法优于现有算法。
Jan, 2017
该研究考虑了平滑函数和矩阵的 Schatten-p 范数之和的最小化问题,并提出了用于解决非凸低秩最小化问题的加速迭代重新加权核范数方法,其主要创新包括具有秩识别特性的方法和自适应更新策略,通过快速将参数驱动为零,将算法转化为能有效解决平滑问题的算法。
Jun, 2024
本文发展了使用分布式算法解决低秩矩阵加上压缩矩阵与稀疏矩阵乘积的分离任务,建立了分布式稀疏正则化秩最小化的算法框架,其中采用核范数和 l1 范数用作所需矩阵的秩和非零条目数的替代,使用交替方向乘法的分离算法来最小化经过采样和压缩的数据的秩和 nonzeros,从而解决了一些网络优化问题。
Mar, 2012
本文研究了应用于两个变量上且每个变量可被限制在潜在非凸约束集上的损失函数的交替最小化方法,该方法在高维统计学和信号处理中常常出现。作者提出了本地凹率系数来度量非凸集合的凹性,进一步揭示了交替和非交替方法之间的重要区别。此外,作者还提出了不精确算法的一组足够条件,以确保其快速收敛,并通过多任务回归等例子进行了验证。
Sep, 2017