May, 2024

低秩张量表示的半监督对称矩阵分解

PDF
TL;DR我们提出了一种新的半监督对称非负矩阵分解模型，通过为通过对称约束矩阵和嵌入矩阵转置的乘积得到的相似度矩阵合成的张量寻找低秩表示，同时从全局角度加强这两个矩阵，然后通过增强的 SNMF 模型使嵌入矩阵适应此张量低秩表示，最终通过强化的相似约束来改进相似度矩阵，重复上述步骤进一步提升相似度矩阵和约束矩阵，从而得到高质量的嵌入矩阵。我们的方法在大量实验证明了其优越性。
发现论文，激发创造
  • 对称非负矩阵分解的随机算法

    对称非负矩阵分解是一种在数据分析和机器学习中利用非负、低秩矩阵及其转置来近似表示对称矩阵的技术。为了设计更快速和更可扩展的对称非负矩阵分解算法，我们开发了两种随机化算法来计算。第一种算法利用随机矩阵草图计算初始低秩输入矩阵，并利用此输入迅速计算对称非负矩阵分解。第二种算法利用随机杠杆得分采样来近似解决受限最小二乘问题。实验证明，这两种方法在实践中都非常有效，通过将它们应用于大型真实数据集上的图聚类任务，我们展示了这些方法在保持解决方案质量的同时显著提速，无论是在大规模稠密问题还是大规模稀疏问题上。

    Feb, 2024

  • 对称矩阵分解的再思考：更一般且更优的聚类视角

    本文提出了使用正则项优化的高效因式分解算法来提高聚类性能，同时进一步探索了使用不同约束条件解决对称矩阵分解问题的通用框架。

    Sep, 2022

  • 深度矩阵因式分解方法学习属性表示

    本研究提出了一种新的模型 Deep Semi-NMF，可以将 Semi-Non-negative Matrix Factorization 中无法解释的低级隐藏属性进行聚类解释，并提供了 Deep WSF 的半监督版本，可用于处理不同属性的数据集，可以用于聚类和分类，其性能表现优于其他现有的方法。

    Sep, 2015

  • 基于注释者共现插值和可证实对称非负矩阵分解的众包

    本文提出了一种基于对称非负矩阵分解的方法来解决从嘈杂、不完整和众包注释中无监督学习 Dawid-Skene（D＆S）模型的长期挑战，该方法确保了 D＆S 模型的可识别性，具有低样本复杂性，并通过轻量级的算法解决共现问题来提高其可靠性。

    Jun, 2021

  • 用于监督矩阵分解的指数收敛算法

    利用监督矩阵分解 (SMF) 方法，在高维数据中学习低秩潜在因素，并提供可解释性、数据重构性和类别区分性特征，通过一个新颖框架将 SMF 提升为一个结合因子空间的低秩矩阵估计问题，并提出了一个有效算法，在各种癌症中成功识别了已知的与癌症相关的基因组。

    Nov, 2023

  • MahNMF：曼哈顿非负矩阵分解

    本文提出了 MahNMF 方法以及 5 种扩展，用于处理非负矩阵。利用两种算法，即秩一残留迭代（RRI）方法和 Nesterov 的平滑方法，有效地优化了 MahNMF 和其扩展。MahNMF 方法在处理重尾部的拉普拉斯噪声时，能够很好地拟合数据，是一种鲁棒性较强的方法。

    Jul, 2012

  • 多约束对称非负隐变量分析大规模无向加权网络

    本文提出了一种多限制的对称非负潜因子分析模型，通过引入多种限制和实现交替方向乘子法的学习方案，有效解决了对称高维不完整矩阵在无向加权网络中的特征表达问题。实验证明该模型较现有模型具有更强的表征学习能力。

    Jun, 2023

  • 从在线非负矩阵分解中派生的 Hebbian / Anti-Hebbian 网络可以聚类和发现稀疏特征

    研究单层神经元网络如何执行在线对称非负矩阵分解（SNMF）的假设，通过导出基于 SNMF 成本函数的在线算法，可以实现具有局部学习规则的生物学上可行的网络。该算法具有软聚类和稀疏特征发现能力，是一个阶段性的研究，可以促进大规模神经电路模拟和生物启发式人工智能。

    Mar, 2015

  • NetSMF: 大规模网络嵌入作为稀疏矩阵分解

    本文提出了一种新的针对大规模网络嵌入学习的算法 ——NetSMF，可以有效地稀疏该密集矩阵，维持了嵌入学习的表征能力，相比已有方法，NetSMF 在效率和有效性上都具有优势。

    Jun, 2019

  • 通过非负低秩半定规划实现统计最优 K-means 聚类

    该论文提出了一种基于 Burer-Monteiro 分解的 NMF-like 算法，通过将 SDP 松弛的 K-means 问题约束为非负低秩矩阵，实现了和 NNF 算法一样简单、可扩展且具有强大的统计优化保证的聚类效果。该算法在实验中的误聚类错误率明显低于现有的最新技术。

    May, 2023