May, 2024

非负矩阵分解与潜在狄利克雷分配之间的联系

PDF
TL;DR非负矩阵因式分解也称为广义 Kullback-Leibler 散度 (NMF) 和隐含狄利克雷分配 (LDA) 是两种用于非负数据降维的流行方法。在这篇论文中，我们展示了在对分解的两个矩阵的列添加 $\ell_1$ 归一化约束和一个狄利克雷先验的条件下，NMF 与 LDA 等效。我们的方法还揭示了一个矩阵上的 Lasso 惩罚和另一个矩阵的 $\ell_1$ 归一化约束是不足以引发任何稀疏性的。
non-negative matrix factorizationgeneralized kullback-leibler divergencelatent dirichlet allocation$\ell_1$ normalization constraintsmultiplicative updates algorithm
发现论文，激发创造
  • 非负矩阵分解中的二到五个真相

    本文探讨了矩阵缩放对非负矩阵分解进行主题建模的作用。作者提出了一种基于归一化拉普拉斯 (NL) 的缩放方法，其在文本话题建模方面的效果显著，并且在三个数据集上证明了它的优越性。作者认为这种缩放方法与其他矩阵缩放方法存在关联。

    May, 2023

  • 基于非负矩阵分解的多模态多视角聚类

    通过结合相关对象，无监督机器学习技术旨在揭示数据集中的潜在模式。在本文中，我们提出了一项关于多模态聚类算法的研究，并提出了一种名为多模态多视图非负矩阵分解的新方法，其中我们分析了多个局部 NMF 模型的协同作用。实验结果表明，所提出的方法具有较大的价值，并使用多种数据集进行评估，相比于现有的方法，获得了非常有前景的结果。

    Aug, 2023

  • 神经网络矩阵分解

    本文介绍一种基于神经网络与矩阵分解的方法，使用最优化技术得到潜在特征向量并据此构建神经网络，进而代替传统内积的矩阵分解方法，从而在一些测试数据集上达到更好的效果。

    Nov, 2015

  • 使用线性规划分解非负矩阵

    本论文提出了一种新的基于线性规划的计算非负矩阵分解的方法，其中关键思想是使用数据中最显著的特征来表示其他特征，以实现低秩近似且扩展到更一般的噪声模型并具有高效可扩展性的算法。

    Jun, 2012

  • 非负矩阵分解的加速乘法更新和分层 ALS 算法

    本文提出了一种加速处理非负矩阵分解问题的技术，通过在每个迭代步骤中精确分析计算成本，来保持算法的收敛性。这种加速技术可以应用于其他算法，并且已在图像和文本数据集上进行了实证研究。

    Jul, 2011

  • MahNMF：曼哈顿非负矩阵分解

    本文提出了 MahNMF 方法以及 5 种扩展，用于处理非负矩阵。利用两种算法，即秩一残留迭代（RRI）方法和 Nesterov 的平滑方法，有效地优化了 MahNMF 和其扩展。MahNMF 方法在处理重尾部的拉普拉斯噪声时，能够很好地拟合数据，是一种鲁棒性较强的方法。

    Jul, 2012

  • 基于图正则化的 L20 范数非负矩阵分解的无监督特征学习

    基于 GNMF 和 l2,0 范数约束的非负矩阵分解方法，旨在提取具有稀疏特征、减轻噪音影响的数据低维结构，通过实验验证了算法的有效性和优越性。

    Mar, 2024

  • 贝叶斯均值参数化非负二进制矩阵分解

    本文提出了一种针对二元数据矩阵的基于贝叶斯平均参数非负矩阵分解的方法，并使用折叠吉布斯采样和折叠变分算法推断了因子的后验分布，同时将所提出方法拓展到非参数设置下，实现自动检测相关成分数量，实验证明该方法在词典学习和预测任务方面的性能优于现有技术。

    Dec, 2018

  • 基于互信息的短文本主题建模的联邦非负矩阵分解

    文中介绍了一种使用 Federated NMF 和互信息（MI）的方法，可以在尊重客户数据隐私的同时，帮助多个客户一起训练矩阵分解话题模型，并更好地进行自然语言处理

    May, 2022

  • 学习主题模型 —— 走出奇异值分解

    该论文从理论上证明了利用非负矩阵分解（NMF）作为主要工具来实现主题模型学习算法的可行性，具有学习效率高，不需要数据满足某些限制条件等优点，可用于包含主题 - 主题相关性的模型。

    Apr, 2012