Dec, 2015

最优白化和去相关

PDF
TL;DR本文介绍了 Whitening 或 Sphering 的概念，强调随机变量正交性转换，探讨了基于主成分分析（PCA）、Cholesky 矩阵分解和零相位分量分析（ZCA）等五种自然白化过程，指出通过探讨 Sphered 变量和原始变量之间的交叉协方差和交叉相关矩阵可以打破旋转不变性并确定最佳白化转换，提出了两种特定方法。建议使用 ZCA-Cor 白化生产最大程度类似于原变量的 Shpered 变量以及使用 PCA-Cor 白化以获得最大压缩原变量的 Shpered 变量。
发现论文，激发创造
  • 加权主成分分析：一种加权协方差特征值分解方法

    提出一种新的基于加权方差协方差矩阵的双谱分解方法，旨在在具有加权和 / 或缺失数据问题的情况下，检索给定数量的正交主成分，该方法通过将主成分拟合到数据并进行分解，从而检索主系数。通过在实际情况和模拟情况下进行测试，结果表明该方法能够在数据集中识别最显著的模式，并且可以使用此方法将 Sloan Digital Sky Survey 类星体光谱从测量波长外推至更短和更长波长。同时该算法的实现速度快且灵活。

    Dec, 2014

  • 稀疏主成分分析和迭代阈值法

    本文针对特征数比样本个数大的情况，提出了一种新的迭代阈值方法，用于估计主成分空间，这种方法在高维稀疏场景下实现了主成分空间和主要特征向量的一致恢复和最优恢复。模拟实例也证明了其具有竞争性的性能。

    Dec, 2011

  • 从相关组件的可解释方差到无正交约束的 PCA

    通过引入新的目标函数，衡量数据矩阵 A 相关分量 Y=AZ 所解释的方差部分，本文在对已有定义的解释方差的数学和数值特性进行全面研究的基础上，提出了两个最适合用作消除正交性约束的 block PCA 公式的目标函数。

    Feb, 2024

  • 稀疏主成分分析的增广拉格朗日方法

    本研究提出了一种新的稀疏 PCA 方法，旨在找到稀疏和几乎不相关的主成分，并具有正交的载荷向量，同时尽可能多地解释总方差。我们还开发了一种新的增广 Lagrangian 方法来解决一类非光滑约束优化问题，该方法非常适合我们的稀疏 PCA 公式。最后，我们将我们的稀疏 PCA 方法与其他方法在合成数据，随机数据和真实数据上进行比较。计算结果表明，我们的方法产生的稀疏主成分在总方差，主成分相关性和载荷向量的正交性等方面显着优于其他方法。

    Jul, 2009

  • 稀疏主成分分析的近似算法

    本文介绍了一种名为门限法的难以置信的精简主方向载荷方法，并将其与半定规划松弛相结合，以改进主成分分析的解释性。

    Jun, 2020

  • 随机非线性成分分析

    通过利用随机性设计了新的可伸缩非线性 PCA 和 CCA 变体，并扩展到关键的多元分析工具，例如谱聚类或 LDA，并在真实世界的数据上进行了实验，与最先进的方法进行了比较。

    Feb, 2014

  • 稀疏主成分分析

    使用稀疏 PCA 算法，选择最大方差的坐标子集，估计特征向量并在原始基础上重新表达，在适当的稀疏性假设下，实现一元模型的一致性估计。

    Jan, 2009

  • 信息论上最优稀疏主成分分析

    本文讨论了两种概率稀疏主成分分析模型：钉住 Wigner 模型和钉住 Wishart 模型，并分析了一个用于估计基本信号的近似信息传递 (AMP) 算法。在高维极限下，AMP 估计是信息理论上的最优。此外，本文提供了稀疏 PCA 问题的单字母特征。

    Feb, 2014

  • 剩余分量分析：在线性高斯模型中推广 PCA 以获得更灵活的推断能力

    本文提出了一种新的基于残差方差的概率主成分分析 (PPCA) 模型 —— 残差成分分析 (RCA)，并探讨了由此框架产生的新算法，其中包括将高斯密度的协方差分解为低秩与稀疏逆两个部分的算法。作者在蛋白质信号网络恢复，基因表达时间序列数据集分析以及基于三维点云数据恢复人类骨架方面阐述了该模型的应用。

    Jun, 2012

  • 异方差 PCA: 算法，最优性和应用

    提出了一个基于 HeteroPCA 算法的主成分分析（PCA）框架，该算法通过迭代地填充样本协方差矩阵的对角元素来消除异方差引起的估计偏差，提高了计算效率并在高维统计问题中得到了成功应用。

    Oct, 2018