Jan, 2024

GT-PCA：高效且可解释的降维方法 —— 具有一般转换不变性的主成分分析

PDF
TL;DR引入广义变换不变主成分分析（GT-PCA）作为主成分分析（PCA）和自编码器的一个有效而可解释的替代方法。通过提出的神经网络，高效地估计主成分，并提供了基于合成和真实数据的实验证明了 GT-PCA 明显优于其他方法。
发现论文，激发创造
  • 用主成分分析估计数据的内在维度

    本文介绍了一种基于 PCA 的新方法，用于估计具有非线性结构的数据的内在维数，该方法利用整个数据集估计其内在维数，并方便增量学习。该方法使用数据的最小覆盖来处理数据集的非线性结构，并通过检查所有小邻域区域的数据方差来确定估计结果。实验结果表明，该方法可以过滤数据中的噪声，并在邻域区域大小增加时收敛到稳定的估计值。

    Feb, 2010

  • $σ$-PCA：线性和非线性主成分分析的统一神经模型

    线性主成分分析、非线性主成分分析、线性独立成分分析、子空间不确定性和神经模型

    Nov, 2023

  • 低数据情况下基于 PCA 增强的自编码器用于非线性降维

    提出了一种利用 PCA 和参数化的 ReLU 激活函数进行自编码器训练的方法，以解决非线性数据降维问题，特别是对于数据稀缺及昂贵的纳米光子学元件设计和其他科学领域的任务。

    May, 2022

  • 旋转不变点云分析的通用框架

    我们提出了一种基于深度学习的点云分析通用方法，对输入具有旋转不变性。通过将其作为置换不变问题进行公式化，并提出了一个通用框架，可与任何骨干网络结合使用，我们的方法在常见基准测试中相较于最先进的方法表现出显著或更好的性能，对于 3D 预训练和多模态学习等进一步研究非常有益。

    Feb, 2024

  • 稀疏主成分分析和迭代阈值法

    本文针对特征数比样本个数大的情况，提出了一种新的迭代阈值方法，用于估计主成分空间，这种方法在高维稀疏场景下实现了主成分空间和主要特征向量的一致恢复和最优恢复。模拟实例也证明了其具有竞争性的性能。

    Dec, 2011

  • 广义低秩模型

    本文将 PCA 技术扩展到处理包含数字、布尔、分类、有序等多种数据类型的任意数据集，提出了一种处理异构数据集的通用低秩模型，并为其提供了一些基于并行算法的实现。

    Oct, 2014

  • 鲁棒、深度和归纳式异常检测

    本文介绍了一种基于深度神经网络的鲁棒自编码器模型，该模型可以对数据进行异常检测，并能够学习捕获大多数数据点的非线性子空间。

    Apr, 2017

  • 剩余分量分析：在线性高斯模型中推广 PCA 以获得更灵活的推断能力

    本文提出了一种新的基于残差方差的概率主成分分析 (PPCA) 模型 —— 残差成分分析 (RCA)，并探讨了由此框架产生的新算法，其中包括将高斯密度的协方差分解为低秩与稀疏逆两个部分的算法。作者在蛋白质信号网络恢复，基因表达时间序列数据集分析以及基于三维点云数据恢复人类骨架方面阐述了该模型的应用。

    Jun, 2012

  • PCAAE：主成分分析自编码器用于生成网络的潜空间组织

    提出了一种新的自编码器（PCAAE），它能够无监督地将数据的内在属性分离成潜空间的不同组成部分，达到了解决深层生成模型中的潜变量空间问题的目的。与其他最先进的方法相比，PCAAE 的能力更好，在潜空间中解开属性的存在，实现了属性的分离。

    Jun, 2020

  • 高效公平主成分分析

    提出一种适应性一阶算法，通过使用 Pareto 最优性的概念来学习保持公平性，同时略微牺牲重构损失的子空间，证明了该算法的解对于所有敏感群体都属于 Pareto 前沿，从而保证了整体重建损失和公平约束之间的最优权衡，并提供了收敛分析和验证了该算法在各种数据集上的优异性能。该算法可有效地将不公平决策降至最低，并可推广至多组敏感特征。

    Nov, 2019