采用 Riemannian 余维度流形上的优化几何方法及其梯度下降和信任区域算法,对学习大型固定秩非对称矩阵的线性回归模型进行了研究,推广了固定秩对称正定矩阵的一般结果,可用于机器学习算法的设计,数值实验表明,与现有算法竞争并提供了一种有效且灵活的算法,用于学习固定秩矩阵。
Sep, 2012
本文提出了一种基于 Riemann manifold 预处理的新型张量完成问题求解方式,通过利用代价函数的最小二乘结构和 Tucker 分解的结构对称性,提出了一种新的 Riemann 度量或内积,使得可以在商流形上使用 Riemannian 优化框架来发展批次和在线设置的预处理非线性共轭梯度和随机梯度下降算法。在各种合成和真实世界数据集上的数值比较表明,所提出的算法在鲁棒性方面优于现有的其他算法。
May, 2016
研究嵌入低秩矩阵流形的黎曼优化方法在矩阵补全问题上的应用和收敛性,其中采样复杂度能进一步通过重新采样的黎曼梯度下降初始化方法减小,这取决于采样算子的像的非对称限制性同构性质和低秩矩阵流形的曲率。
Mar, 2016
本文提出了一种新颖的基于 Riemann 预调节的张量补全方法,该方法使用了特定的内积方式,并利用了 Tucker 分解中结构对称性,证明了它在解决各种合成和真实世界数据集的问题时具有明显优势。
Jun, 2015
针对低秩矩阵完成问题,本文提出了一种基于几何目标函数的优化算法,解决了 Frobenius 度量方法的无法连续和解集不闭合的困难,并为特殊完成方案提供了强大的性能保证。
Jun, 2010
利用流形上的黎曼优化框架开发了一种名为 R3MC 的非线性共轭梯度方法,用于低秩矩阵完成,通过比较实验我们发现 R3MC 在不同问题实例中表现出优异的性能,特别是在结合了稀疏采样和病态数据后表现出色。
Jun, 2013
本文通过串行二次规划和黎曼梯度优化的基本联系,解决了在黎曼优化中选择度量的一般问题,特别是在商流形上寻求黎曼结构的情况下。所提出的方法在具有正交和 / 或秩约束的二次规划中表现得特别明晰高效,覆盖了矩阵流形中当前大多数黎曼优化的应用。
May, 2014
本文提出了一种适用于 Riemann 流形上低秩矩阵恢复问题的新的全局分析框架,其中使用 Riemann 梯度下降算法最小化最小二乘损失函数,并研究了渐近行为以及精确收敛速率。
Dec, 2020
本文描述了一种名为 OptSpace 的有效算法,基于奇异值分解和局部流形优化,用于解决从其子集中重构低秩矩阵的问题。该算法可以从很小的子集重构低秩矩阵并且对噪声具有鲁棒性,并在实际协同过滤数据集上表现良好。
Oct, 2009
本文研究了低秩矩阵恢复的一类黎曼优化算法,证明了当感知算子的受限等距常数小于 Cκ/√r 时,算法能够从几乎最小的测量中恢复低秩矩阵。
Nov, 2015