从压缩数据中学习非负矩阵分解
本论文提出了一种新的基于线性规划的计算非负矩阵分解的方法,其中关键思想是使用数据中最显著的特征来表示其他特征,以实现低秩近似且扩展到更一般的噪声模型并具有高效可扩展性的算法。
Jun, 2012
本文介绍了非负矩阵分解的稀疏特征提取功能,并探讨了如何解决通常情况下NP困难的NMF问题,介绍了一个称为近可分离NMF的问题子类,可以高效地解决一些在有噪声的情况下的NMF问题。最后简要描述了NMF在数学和计算机科学领域的若干相关问题。
Jan, 2014
提出了一种基于新原子范数的凸形式,用于稀疏矩阵分解问题,其中假设因子的非零元素个数是固定和已知的,可应用于稀疏PCA,子空间聚类和低秩稀疏双线性回归等。使用主动集算法解决了该凸问题。
Jul, 2014
本研究提出了借助结构化随机压缩技术,分别应用于传统非负矩阵分解和分离式非负矩阵分解,以应对数据结构日益复杂、数据集日益庞大的情况,结果表明这种压缩技术比传统方法更快速高效。
May, 2015
本文考虑在通过随机投影压缩的数据上准确高效地计算低秩矩阵或张量分解的问题。我们研究了在压缩域内执行分解并从恢复(压缩)因子中重构原始高维因子的方法,在矩阵和张量设置中,我们建立了这种自然方法能够证明恢复原始因子的条件。我们对合成数据进行了实验,证实了压缩因式分解在真实世界的基因表达和脑电时间序列数据集中的实际适用性,并支持这些理论结果。
Jun, 2017
本文从统计模型的角度出发,系统地讨论低秩矩阵分解非凸优化的可靠解法,总结出了两种方法:1. 根据问题特征设计初始值,进行迭代求解;2. 利用全局凸性分析,无需初始值,直接求解。文章阐述了这些方法在各种场景下的应用并剖析了其理论基础。
Sep, 2018
本文介绍了一种解决对称非负矩阵分解问题的快速算法,该算法通过将对称问题转化为非对称的形式进行求解,并证明了这种方法能够在达到全局最优解的同时具有强收敛性,实验表明该算法在数据分析和聚类任务中的应用效果良好。
Nov, 2018
对称非负矩阵分解是一种在数据分析和机器学习中利用非负、低秩矩阵及其转置来近似表示对称矩阵的技术。为了设计更快速和更可扩展的对称非负矩阵分解算法,我们开发了两种随机化算法来计算。第一种算法利用随机矩阵草图计算初始低秩输入矩阵,并利用此输入迅速计算对称非负矩阵分解。第二种算法利用随机杠杆得分采样来近似解决受限最小二乘问题。实验证明,这两种方法在实践中都非常有效,通过将它们应用于大型真实数据集上的图聚类任务,我们展示了这些方法在保持解决方案质量的同时显著提速,无论是在大规模稠密问题还是大规模稀疏问题上。
Feb, 2024
本文针对现有的非负矩阵分解算法提出了一种改进方法,解决了在应用权重范数和正则化时的局限性。通过将乘法更新重新表述为加法更新,避免了算法在零值上的停滞,显著提升了模型的表现。研究结果在鸡尾酒数据库的降维表示方面展现出良好的效果,具有重要的实际应用潜力。
Oct, 2024