Feb, 2017

主特征空间的分布式估计

PDF
TL;DR本文提出了一种分布式 PCA 算法，并研究了其结果的偏差和方差，证明了在数据分布具有对称创新的情况下，经验顶部特征空间是没有偏差的，且在机器数量不过多时，分布式 PCA 算法表现与整体聚合 PCA 算法相当。
principal component analysisdistributed algorithmseigenvectorsconvergence rateheterogeneous data
发现论文，激发创造
  • 改进的分布式主成分分析

    本文研究具有多台服务器的分布式计算环境，通过开发 PCA 算法来处理点集的低维子空间问题，进而解决异常检测以及聚类等计算问题，提出的新算法显著降低了 $k$-means 聚类与相关问题的计算以及通讯成本，并且经过实验验证，在解决方案质量方面具有忽略不计的退化。

    Aug, 2014

  • 分布式随机主成分分析的通信效率算法

    在统计分布设置中，研究了 PCA 的基本问题，介绍了一种在计算效率和估计误差方面都优于局部 ERM 解决方案的算法，通过进行简单的校正步骤来消除误差并提供一种估计器，还介绍了一种使用分布式矩阵向量乘法的迭代分布式算法，提供在广泛的参数范围内通信轮次的显着加速。

    Feb, 2017

  • 用于高速流式主成分分析的分布式随机算法

    本文探讨了在流式数据下，从独立同分布的数据采样中估算协方差矩阵的主特征向量的问题，并提出和分析了一种分布式变体方案 D-Krasulina，该方案可以在多个处理节点上分布计算负载以跟上高数据流率。通过对该方案的分析表明，在适当的条件下，D-Krasulina 以次序优化的方式收敛于主特征向量，即在接收到所有节点的 M 个采样后，其估算误差可以是 O (1/M)。最后，通过对合成和真实世界数据的实验验证了 D-Krasulina 和 DM-Krasulina 在高速数据流场景中的收敛行为。

    Jan, 2020

  • 高维数据的增强稀疏主成分分析

    本论文研究基于高维独立的高斯观测下，对总体协方差矩阵中的主要特征向量进行估计的问题。研究者们提出了一种基于坐标选择方案结合 PCA 的主要特征向量估计器，并证明了该估计器在稀疏条件下可以达到最优收敛速率。同时，也证明在某些情形下，通常的 PCA 可以达到最小最大收敛速率。

    Feb, 2012

  • 稀疏主成分分析：最优速率和自适应估计

    本文考虑了高维情况下主成分子空间的极小值估计和自适应估计，并利用聚合构建了速率最优估计器。同时介绍了一种通过降维来对稀疏主成分分析问题求解的方法。

    Nov, 2012

  • 稀疏主成分分析和迭代阈值法

    本文针对特征数比样本个数大的情况，提出了一种新的迭代阈值方法，用于估计主成分空间，这种方法在高维稀疏场景下实现了主成分空间和主要特征向量的一致恢复和最优恢复。模拟实例也证明了其具有竞争性的性能。

    Dec, 2011

  • 增量型 PCA 的快速收敛

    本研究针对在已知分布均值为零和未知协方差的情况下，使用增量算法以 O (d) 空间复杂度计算顶部特征向量，对 Krasulina 和 Oja 的两种传统方案进行了有限样本收敛率分析。

    Jan, 2015

  • 分布式和流式模型中的最优主成分分析

    该论文提供了改进的分布式 PCA 和流式 PCA 算法，旨在找到矩阵的最佳秩 - k 逼近。

    Apr, 2015

  • 稀疏主成分估计中的统计和计算折衷

    通过研究计算复杂性理论，发现在满足一定限制的协方差集中条件下存在有效的样本大小范围，在此范围内无法有随机多项式时间算法达到最佳极小风险率；对著名的半定松弛估计方法的理论性能进行研究，揭示了统计效率和计算效率之间微妙的相互作用，此方法为多维数据稀疏主成分分析提供了一种解决方案。

    Aug, 2014

  • 稀疏主成分分析

    使用稀疏 PCA 算法，选择最大方差的坐标子集，估计特征向量并在原始基础上重新表达，在适当的稀疏性假设下，实现一元模型的一致性估计。

    Jan, 2009