近乎最优的鲁棒矩阵完成
本文围绕低秩矩阵重构问题,重点研究在观测样本受噪声污染时的矩阵填充问题,比较了OptSpace、ADMIRA和FPCA三种最新的填充算法在单一模拟平台上的性能,并给出了数值结果。实验表明,这些优秀的算法可以用于准确重构实际数据矩阵和随机生成的矩阵。
Oct, 2009
本文介绍了第一种算法,可在多项式时间和样本复杂度内完成矩阵补全,其复杂度与矩阵的秩成正比,与矩阵的维度成线性关系,与矩阵的条件数成对数关系,并基于交替最小化扩展算法,对标准假设下受噪声影响的情况也有理论保证。
Jul, 2014
本文介绍了一种非凸优化方法,用于解决全观测和部分观测情况下的鲁棒主成分分析问题,该方法与现有最佳算法相比,显著降低了计算复杂度,并且在部分观测情况下,我们的算法在有可证明的情况下也是已知的运行时间最短的算法。
May, 2016
发展了一种新框架,旨在捕捉一般非凸低秩矩阵问题的共同局面,包括矩阵感知,矩阵完成和鲁棒PCA,在优化风景线的现有分析的基础上进行了连接和简化,自然地导致了不对称矩阵完成和鲁棒PCA的新结果
Apr, 2017
通过将低秩矩阵补全问题重新表述为在投影矩阵的非凸集上的凸问题,并实施一个可证明最优的分离分支限界方案,推导出一类新的收敛松弛方法。数值实验表明,相比现有的收敛松弛方法,我们的新型收敛松弛方法将最优性差距降低了两个数量级。此外,我们展示了我们的分离分支限界方案的性能,并展示了它在解决矩阵完成问题方面的优异表现。
May, 2023
本文介绍了一种新的损失函数,名为混合常规-威尔士(HOW),以及与HOW相关的一种新的稀疏诱导正则化项。我们从理论上证明了该正则化项是准凸的,其对应的Moreau包络是凸的。此外,我们推导出该Moreau包络(即接近算子)的闭式解。与需要通过迭代来寻找相应接近算子的0<p<1的lp-范数之类的非凸正则化项相比,我们开发的正则化项具有闭式接近算子。我们将该正则化项应用于鲁棒矩阵完成问题,并基于交替方向乘法算法开发了一种高效算法。对所提出方法的收敛性进行了分析,并证明了任何生成的累积点都是一个驻点。最后,基于人工合成和真实数据集的实验结果表明,我们的算法在恢复性能方面优于现有方法。
Oct, 2023
对称半正定低秩矩阵完成问题进行研究,包括确定性依赖于矩阵元素的采样。首先通过实验证明该问题的全局最优点与梯度下降算法具有难以收敛的关系,但证明了在矩阵因子的秩较小且满足一定假设的情况下,非凸目标函数在一个低秩矩阵附近的商流形上是测地强凸的。此外,通过实验证明所提出的GD初始参数设计能够保证收敛到全局最小值。还进行广泛实验,比较了不同初始化、噪声水平、维度和秩对MC方法的收敛性和完成性能的影响。
Jun, 2024