- ICLR解决梯度下降隐式偏差的矩阵分解方法:贪婪的低秩学习
通过深度为 2 的矩阵分解及理论和实证证据,我们证明了梯度流(用无穷小初始化)等价于一个简单的启发式秩量化算法,同时对深度大于等于 3 的情况进行了扩展,并证明了深度的优势在于对初始化幅度的弱依赖性,因此这种秩量化更可能在实践中起作用。
- 一种使用 Huber 损失度量的量化矩阵完成新方法
该论文介绍了一种新的量化矩阵补全方法,利用排名最小化问题和 Huber 损失函数来控制异常值,使用光滑排名逼近技术对真实数据矩阵降维,并借助梯度下降优化算法求解约束问题。
- 从排名估计到排名近似:用于图像恢复的排名残差约束
该论文提出了一种新的排名最小化问题的方法,并将其应用于图像恢复任务中,包括图像去噪和图像压缩伪影降低。通过将图像非局部自相似(NSS)先验与提出的 RRC 模型相结合,在每次迭代中逐步逼近潜在的低秩矩阵,从而提高所需图像的估计质量。实验结果 - 基于新的排名逼近的 Top-N 推荐
本文提出了一种新颖的排序逼近方法来提高 Top-N 推荐系统的性能,其中逼近误差是可控的,实验结果表明该方法显著提高了 Top-N 推荐的准确性。
- CVPR快速随机奇异值阈值法及其在低秩优化中的应用
本文提出了一种快速随机奇异值阈值方法,称为快速随机 SVT,可以用于解决与 NNM 或 WNNM 相关的问题,在各种计算机视觉问题中获得了高效和精确的结果。
- 一种收敛的梯度下降算法,用于基于随机线性测量的秩降和半定规划
本研究提出了一种基于梯度下降的简单、可扩展、快速的算法来优化处理秩最小化问题及其相关的半定规划问题。通过对一个秩为 r 和条件数为 κ 的正半定 n x n 矩阵进行 O (r³κ²n log n) 次随机测量,我们证明了该方法可线性收敛于 - 鲁棒 PCA 中奇异值的部分和最小化算法及应用
本论文提出了一种改进版的鲁棒主成分分析方法,使用部分奇异值之和代替核范数,隐式地鼓励目标秩约束。实验结果表明,该方法在样本数不足时比传统鲁棒主成分分析方法有更高的成功率,在样本数充足时两种方法得到的解几乎相同。该方法在高动态范围成像、运动边 - 流式大数据矩阵和张量的子空间学习和插补
论文提出了一种基于 rank minimization 算法的在线优化方法,通过追踪低维度子空间、揭示潜在结构以及使用核范数正则化来实现低维矩阵数据和低秩张量数据的缺失值插补,模拟测试显示该方法在数据明显含噪、不完整的情况下表现突出。
- 低秩矩阵恢复的一致性条件
本文研究了低秩矩阵恢复问题中所需的最少线性测量的理论问题,证明了针对一组随机测量系列,所需的测量数量为 m >= 4nr-4r^2,足以保证测量算子的零空间中不存在任何秩为 2r 的矩阵,同时保证所有秩为 r 的矩阵均匀恢复,这一 m 值恰 - 加速核范数最小化算法的块 Lanczos 方法和温启动技术
本文提出了一种 warm start 的 BLWS 技术,通过使用块 Lanczos 方法来计算偏 SVD,以解决计算代价高的问题,并在 Robust PCA 和 Matrix Completion 问题中得到了加速。
- NIPS奇异值投影保证秩最小化
本文提出了一个名为 SVP (Singular Value Projection) 的快速且有效的算法,用于解决在严格是 ometry 约束下的等式约束的秩最小化问题以及低秩矩阵补全问题,实验结果表明,该算法相较于现有算法表现更好,更鲁棒性 - 矩阵补全的奇异值阈值算法
本文介绍了一种新的算法,用于近似矩阵和满足一组凸约束条件的所有矩阵中具有最小核范数的矩阵。该算法可在低阶矩阵完成问题上使用,具有快速计算的特点,通过少量存储空间实现低计算代价。
- 核范数启发式排名最小化成功的必要和充分条件
使用核范数替代矩阵秩函数的启发式算法可实现线性约束集的秩最小化,本文提供了成功找到线性约束集最小秩解的必要和充分条件,并提供了在约束数适当大的情况下,采样自仿射秩最小化问题的概率分布实现成功的可能性