MahNMF:曼哈顿非负矩阵分解
通过矩阵分解问题中的凸松弛方法,结合核范数和分解式正则化,我们分析了一个能得到估计值的一般性定理,该定理可以适用于低秩矩阵、稀疏矩阵及一些可压缩的高维矩阵。我们利用了峰态条件,得到了确定性和随机性噪声矩阵的非渐近性弗罗贝尼乌斯误差界,同时也证实了最小化误差的下限和数值模拟结果的契合度。
Feb, 2011
本研究提出了借助结构化随机压缩技术,分别应用于传统非负矩阵分解和分离式非负矩阵分解,以应对数据结构日益复杂、数据集日益庞大的情况,结果表明这种压缩技术比传统方法更快速高效。
May, 2015
本文从统计模型的角度出发,系统地讨论低秩矩阵分解非凸优化的可靠解法,总结出了两种方法:1. 根据问题特征设计初始值,进行迭代求解;2. 利用全局凸性分析,无需初始值,直接求解。文章阐述了这些方法在各种场景下的应用并剖析了其理论基础。
Sep, 2018
本文研究了针对大规模低秩矩阵的部分和带噪声数据中的矩阵补全问题,采用凸松弛和Burer-Monteiro方法,成功地将凸松弛的实践与非凸方法的统计保证相结合,取得了近乎最优的估计误差。
Feb, 2019
我们的研究旨在探究非负矩阵分解(NMF)在面对不同类型的噪声时的噪声稳健性。通过使用三种不同的NMF算法(L1 NMF,L2 NMF和L21 NMF)以及ORL和YaleB数据集进行一系列的模拟实验,分别使用盐和胡椒噪声和块遮挡噪声。实验中,我们使用一系列的评估指标,包括均方根误差(RMSE),准确率(ACC)和归一化互信息(NMI),来评估不同NMF算法在噪声环境中的性能。通过这些指标,我们量化了NMF算法对噪声的抵抗能力,并深入研究了它们在实际应用中的可行性。
Dec, 2023
对称非负矩阵分解是一种在数据分析和机器学习中利用非负、低秩矩阵及其转置来近似表示对称矩阵的技术。为了设计更快速和更可扩展的对称非负矩阵分解算法,我们开发了两种随机化算法来计算。第一种算法利用随机矩阵草图计算初始低秩输入矩阵,并利用此输入迅速计算对称非负矩阵分解。第二种算法利用随机杠杆得分采样来近似解决受限最小二乘问题。实验证明,这两种方法在实践中都非常有效,通过将它们应用于大型真实数据集上的图聚类任务,我们展示了这些方法在保持解决方案质量的同时显著提速,无论是在大规模稠密问题还是大规模稀疏问题上。
Feb, 2024
通过研究称为均匀正则化比例不变的更一般模型,本文证明了低秩逼近模型中的比例不变性带来了隐式正则化,具有意想不到的有益和有害效果,并根据这一观察加强了正则化函数在低秩逼近模型中的作用理解,以引导正则化超参数的选择,并设计平衡策略以提高优化算法的收敛速度。
Mar, 2024
我们研究了正则化泊松非负矩阵分解(NMF)问题,包括利普希茨和相对平滑函数以及线性约束的各种正则化项。我们利用块递进上界最小化(BSUM)来克服主要损失项为KL散度的挑战,构建适当的上界函数,并展示如何引入线性约束进入该问题中。这导致了两种新的正则化泊松NMF算法的发展。我们进行了数值模拟展示我们方法的有效性。
Apr, 2024