通过使用权重矩阵本身进行矩阵重新加权,我们提出了一种放松的 WLRA 解法,该方法可以输出一个并非低秩矩阵,但可以使用非常少的参数进行存储,并在权重矩阵具有低秩时给出可证明的近似保证。此外,我们的算法在模型压缩和合成数据集方面展现出非常出色的实证性能,并为与此问题相关的自然分布问题提供了几乎最佳的通信复杂性界限。
Jun, 2024
本篇论文证明了基于分量的 l1 - 范数的低秩矩阵逼近问题是 NP-hard 的, 并与其它著名问题进行了有趣的联系。
Sep, 2015
该研究提出了一种新的矩阵逼近模型,其中假设只有部分的矩阵是局部低秩的,并将观测矩阵表示为低秩矩阵的加权和,实验表明该方法在推荐任务中可以提高预测准确度。
Jan, 2013
本研究提供了一种有效和稳健的交替最小化框架来解决线性代数和机器学习中的一些问题,关注于都市中加权矩阵的低秩矩阵近似问题,并将运行时间从之前的 n^2k^2 降至 n^2k。
Jun, 2023
本文提出了一种基于社区检测和流形学习的矩阵完成模型,通过约束矩阵在图上的平滑性来隐含地强制行和列之间的相似性,得到了比标准模型更好的矩阵恢复效果。
Aug, 2014
使用迭代重加权最小二乘算法,同时结合核范数和近似低秩解的最小化,有效地从少量线性测量中恢复矩阵,并通过实验证明在矩阵完成问题中具有竞争力。
Oct, 2010
我们提出了一种名为带权近似秩分量分析(WARCA)的度量学习公式,它通过将 WARP 损失与偏爱正交线性映射和避免秩缺乏嵌入的正则化器相结合,优化顶级排名的精度,我们的方法在最近和标准的重新识别数据集上都超越了现有的最先进技术,不仅在准确性上优于现有的技术,而且在速度上也表现出极佳的表现。
Mar, 2016
本文介绍了低秩逼近技术,并给出了众多相关技术的广泛参考资料。在此基础上,简要评述了基于奇异值分解、QR 分解、随机算法以及交叉 / 骨架逼近等各种低秩逼近技术的应用和优缺点。
Jun, 2016
本文提出一种有效的算法,用于对任意规模的矩阵进行低秩逼近,可以在保证精度的同时大大提高计算效率,实验结果证明了算法的可行性。
Sep, 2008
介绍了一种在保证模型精度的情况下,同时降低深度学习中推理和训练成本,并通过基于神经网络条件数的模型稳健性表明低秩矩阵分解(low-rank matrix factorizations)容易导致模型鲁棒性的问题,提出了一种基于鲁棒低秩矩阵训练的算法,通过施加近似正交约束,保证了低秩表示与近似完整的模型之间精度。通过实验证明降低深度学习模型中推理和训练成本的同时,提高了模型的鲁棒性。