低秩逼近实现的稀疏主成分分析
本论文提出了一种基于协方差矩阵的稀疏主成分分析方法,采用半正定松弛和贪心算法求解,可以适用于诸如子集选择和稀疏恢复等领域,并能在人工和生物数据等实验数据中提供全局最优解。
Jul, 2007
提出了一种基于新原子范数的凸形式,用于稀疏矩阵分解问题,其中假设因子的非零元素个数是固定和已知的,可应用于稀疏PCA,子空间聚类和低秩稀疏双线性回归等。使用主动集算法解决了该凸问题。
Jul, 2014
提出一个名为 'tighten after relax' 的两阶段计算框架,其中第一阶段使用建议的凸松弛方法进行近似求解,第二阶段则通过直接求解基础非凸问题的新算法 'sparse orthogonal iteration pursuit' 来迭代优化初始估计值,并证明该框架的稳定性和最优性在特定模型类别下成立。
Aug, 2014
本文介绍一种新的基于多个不相交支撑的稀疏主成分分析算法,能够在多项式时间复杂度内,统一优化多个不相交的主成分,并且在真实数据集上的实验结果表明,在许多情况下,该算法能够胜过现有的基于排除法的方法。
Aug, 2015
该论文提出了两种混合整数SDP,用于优化选择主子矩阵的最大特征值,进一步分析和证明了它们的理论最优性差距优于现有技术,然后解决了在解决MISDP时存在的计算难题,同时提出了近似算法和 MILP 模型,有效地解决了规模问题,最后将其扩展到非对称矩阵和多个协方差矩阵的情况。
Aug, 2020
通过研究一种在尖峰维沙特模型下的主成分分析问题,我们揭示了信号中的结构通过一类子空间模型予以捕捉。在统计和计算统一的视角下,我们建立了依赖于问题实例几何结构的基本限制,并展示了一种自然的投影幂法在解的统计可接近最优邻域上表现出的局部收敛性。我们通过分析两个重要特例,即基于路径和树稀疏性的初始方法和匹配证据的计算难度,来补充这些结果。总体而言,我们的结果表明,多个针对普通稀疏主成分分析观察到的现象自然地扩展到其结构化对应物中。
Jul, 2023
在高维环境中,本研究针对协方差矩阵Σ的k维稀疏主子空间进行估计,提出了一种基于稀疏主成分分析的半定松弛估计方法,并在理论上证明了该方法在一定条件下具有支持恢复能力和收敛速率优势。
Dec, 2023
本文提出了一个针对估算稀疏鲁棒一维子空间的优化框架,通过最小化表示误差和惩罚来实现l1-范数准则的优化。基于线性松弛方法,该算法在计算时间上具有最坏情况下的O(n^2 m log n)时间复杂度,并在某些情况下实现了稀疏鲁棒子空间的全局最优解,因此具有多项式时间效率。与现有方法相比,该算法能够找到具有最低不一致性的子空间,同时提供了稀疏性和拟合度之间更平滑的权衡。它的架构具有可伸缩性,对于2000x2000矩阵,计算速度相比CPU版本提高了16倍。此外,该方法独立于初始化,具有确定性和可复制性的优点。通过实际应用示例,证明了该算法在实现有意义的稀疏性方面的有效性,并强调其在各个领域中的精确和有用的应用。
Feb, 2024