本文研究的是如何恢复一个结构化模型的问题,我们探讨了使用多目标优化得到的结果与只利用其中一个结构的算法的结果相当的现象。此外,我们还详细研究了稀疏低秩矩阵恢复问题所需的样本数,证明了本文提出的非凸公式在这种情况下表现比凸公式更好。
Dec, 2012
利用核范数正则化寻找结构化低秩矩阵的问题,我们采用线性映射来编码结构,并提出了一种更有效的方法,与同类方法相比,该方法在迭代次数和计算成本上都有所改善,并在随机系统实现和光谱压缩感知问题中表现出色。
Sep, 2015
该论文提出了一种新的因子分解模型,它将低秩矩阵和线性子空间约束分离开来,从而使得优化问题在 Riemannian spectrahedron 流形上得以求解。实验证明,该方法在标准 / 鲁棒 / 非负矩阵补全,Hankel 矩阵学习和多任务学习等问题上具有较高的效率。
Apr, 2017
提出了一种基于梯度下降算法的非凸优化的低秩矩阵估计的统一框架,其通用性很强,可应用于噪声和无噪声观测,算法能够线性收敛到未知低秩矩阵的最小最优统计误差,同时也能够以线性速率收敛到未知低秩矩阵,并以最优样本复杂度实现精确恢复。
Oct, 2016
通过矩阵分解和投影梯度下降算法解决约束最优化问题,提供了一种通用理论框架,当给定适当的初始化时,可以几何级数地收敛到具有统计意义的解,适用于许多具体模型。
本文综述了利用低秩结构在信号处理和机器学习中进行矩阵恢复的现代方法,重点介绍了实践中最常用的算法,这些算法的现有理论保证以及这些技术的代表性实践应用。
Jan, 2016
本文研究了一种适用于大规模数据集且通过使用特定形式的正则化来捕获因素中的额外结构的矩阵分解技术,该技术将已知的正则化器(如总变化和核范数)作为特定情况。 尽管所得到的优化问题是非凸的,但我们证明如果因素的大小足够大,在某些条件下,任何因素的局部最小值都可以得到全局最小值。我们还提供了一些实用的算法来解决矩阵分解问题,并导出了给定近似解的距离与全局最优解之间的距离范围。在大数据集上,神经钙成像视频分割和高光谱压缩恢复的示例显示了我们的方法的优势。
Aug, 2017
本文提出了一种基于截断的异性低秩正则化方法,通过使用功率方法逼近奇异值分解以提高计算效率,相比于传统核范数正则化方法,实验结果表明所提出的方法在矩阵补全领域有更快的速度和更高的准确率。
Dec, 2015
本文从统计模型的角度出发,系统地讨论低秩矩阵分解非凸优化的可靠解法,总结出了两种方法:1. 根据问题特征设计初始值,进行迭代求解;2. 利用全局凸性分析,无需初始值,直接求解。文章阐述了这些方法在各种场景下的应用并剖析了其理论基础。
Sep, 2018
本文研究学习低秩模型的问题, 提出了一种三阶段元算法来解决未标记的异构数据和低复杂度结构带来的非凸性问题,并且可证明其稳定性。
Sep, 2020