Dec, 2015

流式核主成分分析

PDF
TL;DR提出了一种基于矩阵草图的流式 Kernel 主成分分析方法，它能够在流中维护一小组基本元素，仅需要对 n 取对数的空间，比当前最先进的方法在实践中表现得更好。
kernel principal component analysisnon-linear structuresnyström methodrandom feature mapsmatrix sketching
发现论文，激发创造
  • 具有 $\tilde {O}(\sqrt {n})$ 随机特征的流式核 PCA

    在核主成分分析中使用随机傅里叶特征的统计和计算学方面的研究，证明在温和假设下，使用 O (sqrt (n) log n) 个特征即可达到 O (1/epsilon^2) 的样本复杂度；此外，还提出了一种基于经典 Oja 算法的内存高效的流算法来实现这一速率.

    Aug, 2018

  • 稀疏主成分分析

    使用稀疏 PCA 算法，选择最大方差的坐标子集，估计特征向量并在原始基础上重新表达，在适当的稀疏性假设下，实现一元模型的一致性估计。

    Jan, 2009

  • 使用随机特征的近似核主成分分析：计算与统计的权衡

    本文研究了随机特征逼近在核主成分分析中的应用，通过比较计算效率和统计效率，分析了逼近 KPCA 的计算和统计性能优于 KPCA，研究依赖于自伴随 Hilbert-Schmidt 算子值 U 统计量的算子和 Hilbert-Schmidt 范数的 Bernstein 型不等式。

    Jun, 2017

  • 稀疏核主成分分析用于异常检测

    本文提出一种基于弹性网规则表达式的核特征空间中 SKPCA 方法，并对其有效性进行了数学分析。采用基于 RBF 核的 SKPCA 方法进行离群点检测，并在 5 个真实数据集上进行测试，证明了使用仅 4％或更少的主成分即可达到与 KPCA 相当的性能，同时具有更好的准确性和稀疏性。最后，提供了一种新颖的概率证明以证明使用 RBF 核的 KPCA 具有稀疏解的存在。

    Sep, 2018

  • 基于流式数据的内存受限 PCA

    本研究提出了一种基于流处理的、使用有限内存的主成分分析算法，它可以在高维情况下有效地运行，并且在样本复杂度上比相关算法更好。

    Jun, 2013

  • 分布式和流式模型中的最优主成分分析

    该论文提供了改进的分布式 PCA 和流式 PCA 算法，旨在找到矩阵的最佳秩 - k 逼近。

    Apr, 2015

  • 大规模近似核规范相关分析

    本论文提出了一种基于随机优化算法的近似核正则化典型相关分析方法，具有在处理大规模数据集时计算效率高的特点，该方法应用于语音数据集处理中，包含 $1.4$ 百万的训练样本，以及维度 $M=100000$ 的随机特征空间.

    Nov, 2015

  • 改进的分布式主成分分析

    本文研究具有多台服务器的分布式计算环境，通过开发 PCA 算法来处理点集的低维子空间问题，进而解决异常检测以及聚类等计算问题，提出的新算法显著降低了 $k$-means 聚类与相关问题的计算以及通讯成本，并且经过实验验证，在解决方案质量方面具有忽略不计的退化。

    Aug, 2014

  • 用于高速流式主成分分析的分布式随机算法

    本文探讨了在流式数据下，从独立同分布的数据采样中估算协方差矩阵的主特征向量的问题，并提出和分析了一种分布式变体方案 D-Krasulina，该方案可以在多个处理节点上分布计算负载以跟上高数据流率。通过对该方案的分析表明，在适当的条件下，D-Krasulina 以次序优化的方式收敛于主特征向量，即在接收到所有节点的 M 个采样后，其估算误差可以是 O (1/M)。最后，通过对合成和真实世界数据的实验验证了 D-Krasulina 和 DM-Krasulina 在高速数据流场景中的收敛行为。

    Jan, 2020

  • 稀疏主成分的半定松弛高维分析

    本文研究了高维 PCA 问题，通过添加 $k$-sparse 最大特征向量来扰动协方差矩阵，并分析了两种可计算的最大特征向量恢复方法：一种是简单的对角线阈值法，另一种是复杂的半定规划 (SDP) 松弛法，研究结果突出高维推断中计算与统计效率的权衡。

    Mar, 2008