本文探讨了解决基本的机器学习问题 —— 矩阵补全的方法,并证明了普遍使用的非凸优化问题在正半定矩阵补全中没有局部极小值,可用于任意初始化的优化算法,并可在多项式时间内证明其正确性。
May, 2016
该研究提出了一种可证明,高效的在线算法,用于矩阵完成问题。该算法使用随机梯度下降,具有快速的更新时间,并可自然地用于离线设置。
通过解决凸优化问题,可以从数据矩阵的不完全采样中完美地恢复低秩矩阵,并且这个结果被扩展到了压缩感知。
May, 2008
该论文探讨了如何从其少量项目中恢复未知矩阵的问题,提出使用 “核规范” 法将矩阵恢复降低至在信息论极限附近的数列,以有效提高了恢复矩阵的准确性。
Mar, 2009
本文研究了针对大规模低秩矩阵的部分和带噪声数据中的矩阵补全问题,采用凸松弛和 Burer-Monteiro 方法,成功地将凸松弛的实践与非凸方法的统计保证相结合,取得了近乎最优的估计误差。
Feb, 2019
本文讲述了解释性学习系统是机器学习的一个新趋势,但由于现实数据是由非线性模型生成的,在研究非凸优化问题时,提供可解释性算法是具有挑战性的,本文研究了两个非凸问题:低秩矩阵补全和神经网络学习。
Jun, 2023
该研究针对一种形式的行 / 列加权采样的矩阵完成问题进行了分析,提出了一种基于 $M$-estimator 的技术,通过对解的秩和 spikiness 同时进行控制,在加权 Frobenius 范数下建立了一些误差界限,其中关于矩阵的 “spikiness” 和 “low-rankness” 的度量比以前的工作限制更少。
Sep, 2010
本文提出了一种基于社区检测和流形学习的矩阵完成模型,通过约束矩阵在图上的平滑性来隐含地强制行和列之间的相似性,得到了比标准模型更好的矩阵恢复效果。
Aug, 2014
矩阵分解是一种常用的大规模矩阵补全方法,本文提出了一种理论保证,即在正则化条件下,优化算法可以收敛于矩阵分解的全局最优解,并恢复真实的低秩矩阵,其中的非对称矩阵分解的扰动分析是一项技术贡献。
Nov, 2014
本研究论文介绍新兴的矩阵填充技术及其应用,其中最简单的情况是从一个数据样本中恢复一个数据矩阵。本文提出通过核范数极小化技术,按数据约束条件恢复矩阵,可在一定程度下证明矩阵填充的准确性,数值结果表明,核范数极小化技术可以在很少的观测样本中准确填充低秩矩阵的许多缺失条目。