Jan, 2024

基于矩阵变量 $t$ 分布的鲁棒双线性因子分析

PDF
TL;DR提出了一种基于矩阵变量 $t$ 分布的双线性因子分析模型（$t$bfa），能够同时提取重尾或受污染的矩阵数据中行和列变量的共同因子，通过开发两种高效的 $t$bfa 最大似然估计算法，并导出用于计算参数估计精度的 Fisher 信息矩阵的闭式表达式，实证研究表明了 $t$bfa 模型的优越性和实用性，重要的是，$t$bfa 具有比 $t$fa 显著更高的破裂点，使其更适用于矩阵数据。
发现论文，激发创造
  • 非参数贝叶斯负二项式因子分析

    通过构造负二项分析（NBFA）来解决泊松分布捕捉协变量出现在样本中自我重复及与其他协变量之间激发关系的局限性，并利用分层伽马负二项过程支持数不尽的因素。设计了两种基于多项式分布的混合成员模型，实现快速收敛和低计算复杂度的阻塞吉布斯采样器，提供比以前的方法更具优势的紧凑表示，预测能力和计算复杂性。

    Apr, 2016

  • 关于最小迹因子分析的研究 —— 一首换了调的老歌

    本文介绍了 Minimum Trace Factor Analysis（MTFA）的放松版本，该方法对于具有显著异方差噪声的数据不会过度拟合，并解决了因子分析中常见的 Heywood 案例以及现有光谱方法中最近发现的 “病态条件的诅咒”。我们提供了有关所得低秩子空间的准确性以及计算该矩阵的拟议算法的收敛速率的理论保证。同时，我们发展了与现有方法（包括 HeteroPCA，Lasso 和 Soft-Impute）之间的一些有趣联系，以填补已经很大的低秩矩阵估计文献中的重要缺口。通过数值实验证明了我们的结果与用于处理异方差噪声的几个最近的提议进行了基准对比。

    Feb, 2024

  • 大规模基于梯度的因子分析混合模型训练

    通过随机梯度下降方法，本论文针对高维数据提出了一种高效的高维混合因子分析（MFA）模型训练方法，并利用 MFA 应用于图像数据集进行样本生成和异常检测。

    Aug, 2023

  • 贝叶斯最优矩阵分解中的相变和样本复杂度

    使用统计力学工具分析了矩阵分解问题的可实现性和计算可处理性，在贝叶斯最优推断设置下计算任意计算时间内可能实现的最小均方误差和有效近似迭代推理算法可以达到的误差。

    Feb, 2014

  • 从理论到实践：布尔和有限域矩阵分解

    基于针对实践的 heuristics 我们提出了一种新的算法，它基于 BMF 的最新的理论进展，用于在有限域上找到 GF （p）-Matrix 分解的有效多项式时间逼近方案，并通过人工合成和现实世界数据的实证研究证明了我们算法的优越性。

    Jul, 2022

  • 可验证的最优低秩因子分析

    本文提出了一种基于半定规划的非线性的秩受限因子分析问题的最优化表述方法，并使用目前最先进的非线性优化技术提高了计算可扩展性，同时展示了在真实数据集上提高的精度。

    Apr, 2016

  • 分布式柔性非线性张量分解

    本文提出了一种分布式、灵活的非线性张量分解模型，通过可避免昂贵的计算以及提供高质量推理的上限，它能够克服传统张量分解模型中的限制，并展现出在 CTR 预测方面的巨大潜力。

    Apr, 2016

  • 非参数贝叶斯因子分析动态计数矩阵

    提出一种 Gamma 过程动态泊松因子分析模型，通过建立一个新的马尔科夫链来推断 Gamma 形状参数，应用于文本和音乐分析，取得最先进的结果。

    Dec, 2015

  • 贝叶斯布尔矩阵分解

    介绍了一种概率生成模型 ——OrMachine，用于布尔矩阵分解和推导出马尔科夫链蒙特卡罗 (Metropolised Gibbs) 采样器，实现了高效的并行后验推断，并在真实世界和模拟数据上优于目前所有现有的布尔矩阵分解和完整方法，首次为布尔矩阵分解提供了完整的后验推断，在协同过滤中用于控制假阳性率，并关键地提高了推断模式的可解释性。提出的算法在通用硬件上扩展到大型数据集，如在 1.3 百万只老鼠脑细胞上分析 11 千个基因的单细胞基因表达。

    Feb, 2017

  • 布尔矩阵分解的最新发展

    本文概述了 Boolean Matrix Factorization（BMF）在数据挖掘、正式概念分析、机器学习和理论等领域的研究进展，提出了需要进一步探讨的问题。

    Dec, 2020