Jan, 2009

主成分分析的有限样本逼近结果：矩阵扰动方法

PDF
TL;DR研究如何使用矩阵摄动方法，研究 PCA 在有限样本下的特征值与特征向量与极限样本 PCA 之间的关系，证明了在有 “spiked covariance model” 时，样本 PCA 和极限样本 PCA 之间的接近性，进而将研究重点转移到有限维的 PCA 中并解释了转换点现象和特征向量丢失追踪的现象。
principal component analysismatrix perturbationspiked covariance modelphase transitioneigenvectors
发现论文，激发创造
  • 稀疏主成分分析

    使用稀疏 PCA 算法，选择最大方差的坐标子集，估计特征向量并在原始基础上重新表达，在适当的稀疏性假设下，实现一元模型的一致性估计。

    Jan, 2009

  • 稀疏主成分的半定松弛高维分析

    本文研究了高维 PCA 问题，通过添加 $k$-sparse 最大特征向量来扰动协方差矩阵，并分析了两种可计算的最大特征向量恢复方法：一种是简单的对角线阈值法，另一种是复杂的半定规划 (SDP) 松弛法，研究结果突出高维推断中计算与统计效率的权衡。

    Mar, 2008

  • 稀疏主成分分析和迭代阈值法

    本文针对特征数比样本个数大的情况，提出了一种新的迭代阈值方法，用于估计主成分空间，这种方法在高维稀疏场景下实现了主成分空间和主要特征向量的一致恢复和最优恢复。模拟实例也证明了其具有竞争性的性能。

    Dec, 2011

  • 稀疏主成分估计中的统计和计算折衷

    通过研究计算复杂性理论，发现在满足一定限制的协方差集中条件下存在有效的样本大小范围，在此范围内无法有随机多项式时间算法达到最佳极小风险率；对著名的半定松弛估计方法的理论性能进行研究，揭示了统计效率和计算效率之间微妙的相互作用，此方法为多维数据稀疏主成分分析提供了一种解决方案。

    Aug, 2014

  • 非负主成分分析：消息传递算法和尖锐渐近

    本文研究了主成分分析中，如果利用附加到主向量的信息，能否使得任务更容易并提高准确性。在正协方差约束条件下，该文在一峰模型下开发了相似的特征，证明了估计误差也存在相似的相变现象，并且展示在几乎线性时间内如何近似计算非负主成分。

    Jun, 2014

  • 大型随机矩阵有限低秩扰动的特征值和特征向量

    研究了随机矩阵的有限低秩扰动的特征值和特征向量，发现扰动的矩阵极端特征值收敛于非随机值且存在相变现象，临界点与积分变换有关。

    Oct, 2009

  • 高维低样本量背景下 PCA 的一致性

    研究 PCA 在高维，低样本大小的情况下的渐近行为，发现在一些充分的条件下，估计的 PC 方向是一致的，其他的方向强不一致，而这些条件在主定理中指定。

    Nov, 2009

  • 主成分分析的随机算法

    本文提出一种有效的算法，用于对任意规模的矩阵进行低秩逼近，可以在保证精度的同时大大提高计算效率，实验结果证明了算法的可行性。

    Sep, 2008

  • 高维数据的增强稀疏主成分分析

    本论文研究基于高维独立的高斯观测下，对总体协方差矩阵中的主要特征向量进行估计的问题。研究者们提出了一种基于坐标选择方案结合 PCA 的主要特征向量估计器，并证明了该估计器在稀疏条件下可以达到最优收敛速率。同时，也证明在某些情形下，通常的 PCA 可以达到最小最大收敛速率。

    Feb, 2012

  • 低秩逼近实现的稀疏主成分分析

    本文介绍了一种计算正半定矩阵的 k - 稀疏主成分的新算法，其通过查看低维度特征子空间中的一组离散特殊向量来实现。该算法的近似保证取决于其特征值分布，这使得其能够在多项式时间内对任意精度进行近似计算，同时几乎能够匹配或优于之前算法在所有测试数据集上的表现。

    Mar, 2013