Oct, 2010

使用 Beta 散度算法进行非负矩阵分解

PDF
TL;DR本文提出了基于辅函数的优化方法，包括使用附属函数的 majorization-minimization (MM) 算法和 majorization-equalization (ME) 算法，以求解非负矩阵分解 (NMF) 中的 beta-divergence 形式，同时扩展了该算法以适应罚款 NMF 和 凸 - NMF，并且论文通过对合成和真实数据的模拟证明了 ME 算法的收敛更快。
nonnegative matrix factorizationbeta-divergencemajorization-minimization algorithmmajorization-equalization algorithmconvex-nmf
发现论文，激发创造
  • 深度非负矩阵分解与 Beta 散度

    开发了基于 $eta$-divergences 的新深度非负矩阵分解模型和算法，并将这些技术应用于提取面部特征、文档集中主题的识别和高光谱图像中的材料识别。

    Sep, 2023

  • 非负矩阵分解中基于 β 分布的自动相关性确定

    该论文提出了一种基于贝叶斯模型和自动相关性确定的方法，使用 eta- 差异度量来评估非负矩阵分解中的潜在维数，并通过主化最小化算法进行后验最大化估计，从而达到估计模型顺序和实现要素剔除的目的。

    Nov, 2011

  • 块主导性最小化方法的外推与应用: β-NMF

    我们提出了一种用于解决一类多凸优化问题的块主导最小化方法及其外推算法（BMMe）。该方法通过使用一种新颖的自适应更新规则来更新 BMMe 的外推参数。通过将块主导最小化重新表述为一种块镜像下降方法，并在每次迭代中自适应地更新 Bregman 散度，我们为 BMMe 建立了逐次收敛性。我们使用该方法设计了高效算法来解决带有 $\beta$- 散度（$\beta$-NMF）的非负矩阵分解问题。这些算法使用外推的乘法更新，并从我们的新颖结果中获得了收敛保证。我们还通过大量实验证明了 BMMe 在 $\beta$-NMF 中的显著加速。

    Jan, 2024

  • 非负矩阵分解与 I - 散度交替最小化

    本文研究非负矩阵因式分解（NMF）问题，提出了基于 I-divergence 的非负矩阵近似分解方法，使用类 EM 算法进行迭代，并探讨了其稳定性及与原型分析（Archetypal Analysis）的联系。

    Dec, 2004

  • 非负因子分解与最大边双团问题

    本文主要研究了基于非负矩阵分解的数据压缩和解释方法中的 Nonnegative Factorization 问题，并通过引入新的类别的算法 Hierarchical Alternating Least Squares (HALS) 来提高它的效率，同时对大规模的无向图的最大边双向子图问题进行了降阶处理，并将其与 Nonnegative Factorization 的稳定点联系起来，得出了一种新的边双向子图发现算法。

    Oct, 2008

  • 非负矩阵分解正则化的乘法更新算法的统一收敛分析

    本文提出了一个简单、自包含和统一的证明，证明了应用于广泛范围的差异和正则化的 NMF 的 MU 算法的收敛性，其迭代序列收敛于非凸 NMF 优化问题的静态点。

    Sep, 2016

  • 具有随机结构均值场变分推理的 Beta 流程非负矩阵分解

    本文从贝塔过程的角度，推导了一种针对具有 Poisson 分布似然函数的非负矩阵分解 (NMF) 模型的结构均场变分推理算法，并利用最近开发的随机结构均场变分推理方法来恢复潜在变量之间的依赖关系，并在合成和真实数据上进行了初步的实验验证。

    Nov, 2014

  • MahNMF：曼哈顿非负矩阵分解

    本文提出了 MahNMF 方法以及 5 种扩展，用于处理非负矩阵。利用两种算法，即秩一残留迭代（RRI）方法和 Nesterov 的平滑方法，有效地优化了 MahNMF 和其扩展。MahNMF 方法在处理重尾部的拉普拉斯噪声时，能够很好地拟合数据，是一种鲁棒性较强的方法。

    Jul, 2012

  • 正则化泊松非负矩阵分解的高效算法

    我们研究了正则化泊松非负矩阵分解（NMF）问题，包括利普希茨和相对平滑函数以及线性约束的各种正则化项。我们利用块递进上界最小化（BSUM）来克服主要损失项为 KL 散度的挑战，构建适当的上界函数，并展示如何引入线性约束进入该问题中。这导致了两种新的正则化泊松 NMF 算法的发展。我们进行了数值模拟展示我们方法的有效性。

    Apr, 2024

  • 非负矩阵分解的加速乘法更新和分层 ALS 算法

    本文提出了一种加速处理非负矩阵分解问题的技术，通过在每个迭代步骤中精确分析计算成本，来保持算法的收敛性。这种加速技术可以应用于其他算法，并且已在图像和文本数据集上进行了实证研究。

    Jul, 2011