基于学习的低秩逼近

Oct, 2019

Learning-Based Low-Rank Approximations

Piotr Indyk, Ali Vakilian, Yang Yuan

TL;DR本文介绍了一种基于学习的算法来解决低秩分解问题，并且通过学习用稀疏矩阵来代替随机矩阵可以减小近似误差。同时，给出了针对稀疏矩阵学习问题的泛化界及近似算法。

Abstract

We introduce a "learning-based" algorithm for the low-rank decomposition problem: given an $n \times d$ matrix $A$, and a parameter $k$, compute a rank-$k$ matrix $A'$ that minimizes the approximation loss $\|A-A

low-rank decomposition learning-based algorithm sketch matrix approximation loss generalization bounds

发现论文，激发创造

矩阵低秩逼近的文献综述

本文介绍了低秩逼近技术，并给出了众多相关技术的广泛参考资料。在此基础上，简要评述了基于奇异值分解、QR 分解、随机算法以及交叉 / 骨架逼近等各种低秩逼近技术的应用和优缺点。

Jun, 2016

矩阵隐式函数的分布式低秩逼近

本研究探讨了分布式低秩逼近，其中需要只隐含地跨不同服务器表示逼近的矩阵。研究表明，在宽泛的函数 f 类别中，可以高效计算一个低秩映射矩阵 P，以满足通信成本为 d∙(sk/ε)^O (1)，且算法成功概率高，并可将其用于计算入门型 softmax、Gaussian 核扩展以及 robust 低秩逼近等问题。

Jan, 2016

低秩矩阵近似的实用素描算法

该论文介绍了构建输入矩阵的低秩近似的算法套件，这些算法使用矩阵的随机线性图像（称为草图）。这些方法可以保留输入矩阵的结构特性，如半正定性，并且可以生成具有用户指定秩的近似值。此外，每种方法都伴随着一个信息性误差界，允许用户预先选择参数以实现所需的近似质量。这些论断受真实和合成数据的数字实验支持。

Aug, 2016

利用随机性发现结构：构造近似矩阵分解的概率算法

本文介绍了一种用于构建随机算法的模块化框架，以进行矩阵分解，通过随机抽样识别矩阵的大部分内容，并将输入矩阵压缩到子空间，这种方法在精度、速度和鲁棒性方面都比传统方法更具优势，能够更好地解决大数据集合的问题。

Sep, 2009

低秩矩阵分解的随机算法：尖锐性能界限

本文研究文献中关于维数约减最常讨论的算法之一，即用低秩矩阵来近似输入矩阵的算法。我们介绍了 Martinsson 等人（2008）中算法的新颖分析方法，可以得出尖锐的估计和关于其性能的新见解。通过实验，我们证明了我们预测的紧密性与经验观测的一致性。

Aug, 2013

通过采样杠杆元素实现更紧凑的低秩近似

本文提出了一种新的随机算法，该算法采用特别偏向采样的方法，使误差最小化，可以在光谱范数下利用输入稀疏性生成 M 的秩 - r 逼近，并具有 better dependence on error ε，是一种高度可并行化的优化方法。此外，本论文探讨了计算两个给定矩阵的积的小秩逼近的新方法和小通信开销的改进算法。

Oct, 2014

距离矩阵的最优低秩逼近

本文研究了距离矩阵的低秩近似算法及其样本复杂度，在实验中得到了验证。

Jun, 2019

k-Means 聚类和低秩逼近的降维

研究采用缩略图替代数据矩阵来加速 k - 均值聚类和约束 k - 秩近似问题的精确、近似或启发式算法，并提供降维和草图技术及近似算法来解决这些普遍问题。

Oct, 2014

结构化低秩矩阵学习：算法与应用

该论文提出了一种新的因子分解模型，它将低秩矩阵和线性子空间约束分离开来，从而使得优化问题在 Riemannian spectrahedron 流形上得以求解。实验证明，该方法在标准 / 鲁棒 / 非负矩阵补全，Hankel 矩阵学习和多任务学习等问题上具有较高的效率。

Apr, 2017

局部低秩假设下的矩阵近似

该研究提出了一种新的矩阵逼近模型，其中假设只有部分的矩阵是局部低秩的，并将观测矩阵表示为低秩矩阵的加权和，实验表明该方法在推荐任务中可以提高预测准确度。

Jan, 2013