我们提出了一种新的矩阵分解方法 BSR，通过利用标准矩阵平方根的特性，可以有效地处理大规模问题，并且构造了解析表达式用于处理具有动量和权重衰减的随机梯度下降，从而克服了与当前最先进的差分隐私模型训练相关方法相比的高计算开销，同时证明了这种逼近质量在集中和联合学习环境中都成立，并通过数值实验证明使用 BSR 训练的模型性能与现有最佳方法相当，同时完全避免了计算开销。

May, 2024

提出一种可扩展的基于分布式随机梯度 Langevin 动力学的贝叶斯矩阵分解算法，具备与标准 MCMC 方法相同的预测准确性，同时速度快、简单，并以 Netflix 数据集为例，实现与 Gibbs 采样相当的预测准确性但快一个数量级。

Mar, 2015

本篇论文提出了一种分布式高性能并行的 Bayesian Probabilistic Matrix Factorization （BPMF）算法实现方案，并使用了在单节点上的高效负载均衡使用工作窃取和在分布式版本中使用异步通信的方法，超越了现有技术水平。

May, 2017

本文提出了一种新的针对大规模网络嵌入学习的算法 ——NetSMF，可以有效地稀疏该密集矩阵，维持了嵌入学习的表征能力，相比已有方法，NetSMF 在效率和有效性上都具有优势。

Jun, 2019

探讨在 HPC 平台上使用 Apache Spark 进行线性代数与传统的 C 和 MPI 实现之间的权衡。我们考察了三种常用的矩阵分解方法：NMF、PCA 和 CX，并将它们应用于 TB 级的问题，包括粒子物理学、气候模拟和生物成像。我们在高达 1600 个 Cray XC40 节点上进行了扩展性实验，描述了减速的来源，并提供调整指南以获得高性能。

Jul, 2016

提出了一种简单的算法来实现可证明偏差私有性以及良好性能的差异性私人协作过滤。通过差分隐私和贝叶斯后验采样的新型连接方式，该算法可有效实现。同时，通过精细的系统设计和利用数据的幂律行为最大化 CPU 缓存带宽，我们可以在单个 PC 上以 8.5 百万每秒的速率生成 1024 维模型实现推荐。

May, 2015

本文介绍了蝴蝶分解作为满足互补低秩性质的矩阵的一种数据稀疏逼近方法，并阐述了构建该分解的有效算法。结果表明，蝴蝶分解可以被快速地应用于 N x N 矩阵，并取得了很好的数值结果。

Feb, 2015

该研究论文提出了一种基于正交蝶形结构参数化的参数高效微调方法，命名为 Orthogonal Butterfly (BOFT)，并进行了大型视觉转换模型、大型语言模型和文本到图像扩散模型在不同视觉和语言下游任务中的广泛实证研究。

Nov, 2023

介绍了一种概率生成模型 ——OrMachine，用于布尔矩阵分解和推导出马尔科夫链蒙特卡罗 (Metropolised Gibbs) 采样器，实现了高效的并行后验推断，并在真实世界和模拟数据上优于目前所有现有的布尔矩阵分解和完整方法，首次为布尔矩阵分解提供了完整的后验推断，在协同过滤中用于控制假阳性率，并关键地提高了推断模式的可解释性。提出的算法在通用硬件上扩展到大型数据集，如在 1.3 百万只老鼠脑细胞上分析 11 千个基因的单细胞基因表达。

Feb, 2017

利用监督矩阵分解 (SMF) 方法，在高维数据中学习低秩潜在因素，并提供可解释性、数据重构性和类别区分性特征，通过一个新颖框架将 SMF 提升为一个结合因子空间的低秩矩阵估计问题，并提出了一个有效算法，在各种癌症中成功识别了已知的与癌症相关的基因组。

Nov, 2023