Jul, 2016

基于三个案例研究的 Spark 和 C+MPI 在规模化矩阵分解上的科学数据分析比较

PDF
TL;DR探讨在 HPC 平台上使用 Apache Spark 进行线性代数与传统的 C 和 MPI 实现之间的权衡。我们考察了三种常用的矩阵分解方法：NMF、PCA 和 CX，并将它们应用于 TB 级的问题，包括粒子物理学、气候模拟和生物成像。我们在高达 1600 个 Cray XC40 节点上进行了扩展性实验，描述了减速的来源，并提供调整指南以获得高性能。
发现论文，激发创造
  • 在 GPU 上并行化大规模矩阵分解以提高速度和降低成本

    本论文介绍了 cuMF， 一种基于 CUDA 的矩阵分解库，利用 GPU 技术，采用内存优化的交替最小二乘法（ALS）方法解决非常大规模的 MF 问题，并利用各种技术在单个或多个 GPU 上最大化其性能。与分布式 CPU 解决方案相比，cuMF 仅使用具有 4 个 Nvidia GPU 卡的单个机器就能够快 6-10 倍，成本效益高达 33-100 倍。

    Mar, 2016

  • 高性能非负矩阵分解并行算法

    提出了一个分布式内存并行算法来解决大型数据集上的非负矩阵分解问题，实现了对稠密和稀疏矩阵的高效处理，并且在交替迭代中提供了多个算法选项，与基线实现相比表现出了显著的性能提升。

    Sep, 2015

  • 字典学习和其他矩阵分解算法的样本复杂度

    本文研究现代机器学习和信号处理中使用的矩阵分解技术，并提供了样本复杂度估计等相关信息。

    Dec, 2013

  • 使用线性规划分解非负矩阵

    本论文提出了一种新的基于线性规划的计算非负矩阵分解的方法，其中关键思想是使用数据中最显著的特征来表示其他特征，以实现低秩近似且扩展到更一般的噪声模型并具有高效可扩展性的算法。

    Jun, 2012

  • 矩阵分解与稀疏编码的在线学习

    本文主要介绍了一种新的基于随机逼近的在线优化算法，用于解决以学习基础集合和将其适应特定数据为主的大规模矩阵分解问题，其在各种矩阵分解方面有良好的表现，并在自然图像和基因数据上进行的实验中具有速度和优化方面的先进性能。

    Aug, 2009

  • 分布式贝叶斯概率矩阵分解

    本篇论文提出了一种分布式高性能并行的 Bayesian Probabilistic Matrix Factorization （BPMF）算法实现方案，并使用了在单节点上的高效负载均衡使用工作窃取和在分布式版本中使用异步通信的方法，超越了现有技术水平。

    May, 2017

  • 压缩非负矩阵分解快速准确

    本研究提出了借助结构化随机压缩技术，分别应用于传统非负矩阵分解和分离式非负矩阵分解，以应对数据结构日益复杂、数据集日益庞大的情况，结果表明这种压缩技术比传统方法更快速高效。

    May, 2015

  • 基于特征的矩阵分解

    本技术报告介绍了特征基矩阵分解的实现，该模型是矩阵分解模型的许多变体的抽象，可以通过定义新特征而利用新类型的信息，而无需修改任何代码。使用该工具包，我们构建了 KDDCup'11 赛道 1 报告的最佳单个模型。

    Sep, 2011

  • 自然语言处理应用的排名和运行时感知压缩

    本文提出一种称为混合矩阵分解 (Hybrid Matrix Factorization) 的压缩技术，将低秩矩阵分解技术（LMF）的矩阵秩翻倍，采用智能混合结构，提高了准确性，并且在保持密集矩阵的同时，速度优于剪枝或结构矩阵压缩技术。在 5 个 NLP 基准测试中评估了此技术对多个任务（翻译，意图检测，语言建模）的影响，并表明，在类似准确性值和压缩因子的情况下，HMF 比剪枝快 2.32 倍以上，比 LMF 的准确性高 16.77%。

    Oct, 2020

  • 非负矩阵分解的原因和方法

    本文介绍了非负矩阵分解的稀疏特征提取功能，并探讨了如何解决通常情况下 NP 困难的 NMF 问题，介绍了一个称为近可分离 NMF 的问题子类，可以高效地解决一些在有噪声的情况下的 NMF 问题。最后简要描述了 NMF 在数学和计算机科学领域的若干相关问题。

    Jan, 2014