稀疏特征值问题的截断幂方法
本论文提出了一种基于协方差矩阵的稀疏主成分分析方法,采用半正定松弛和贪心算法求解,可以适用于诸如子集选择和稀疏恢复等领域,并能在人工和生物数据等实验数据中提供全局最优解。
Jul, 2007
本文探讨了如何用非线性特征值问题来解决与机器学习和统计相关的约束优化问题, 并提出了一个新型的逆幂方法来解决这些问题,在1-谱聚类和稀疏PCA的应用中取得了最先进的解决方案。
Dec, 2010
研究高维稀疏主成分分析,证明了所得最小值估计误差在限制条件下的上下限,给出了$L_q$约束下主成分分析的性能分析,提供了$L_1$-约束下主成分分析的收敛速率。
Feb, 2012
本文介绍了一种计算正半定矩阵的k-稀疏主成分的新算法,其通过查看低维度特征子空间中的一组离散特殊向量来实现。该算法的近似保证取决于其特征值分布,这使得其能够在多项式时间内对任意精度进行近似计算,同时几乎能够匹配或优于之前算法在所有测试数据集上的表现。
Mar, 2013
为了发现矩阵对的稀疏广义特征向量,提出了一种基于连续代理函数和二次可分离函数的优化算法,并通过平滑技术处理了奇异性问题和特别结构的情况,相较于先前算法更有效。
Aug, 2014
通过研究一种在尖峰维沙特模型下的主成分分析问题,我们揭示了信号中的结构通过一类子空间模型予以捕捉。在统计和计算统一的视角下,我们建立了依赖于问题实例几何结构的基本限制,并展示了一种自然的投影幂法在解的统计可接近最优邻域上表现出的局部收敛性。我们通过分析两个重要特例,即基于路径和树稀疏性的初始方法和匹配证据的计算难度,来补充这些结果。总体而言,我们的结果表明,多个针对普通稀疏主成分分析观察到的现象自然地扩展到其结构化对应物中。
Jul, 2023
本文研究了一般形式的非结构稀疏恢复问题,其中包括有理逼近、谱函数估计、傅里叶反演、拉普拉斯反演和稀疏去卷积等。通过提出的数据驱动建模方法,即特征矩阵,应用于这些稀疏恢复问题中能够得到期望的近似特征值和特征向量,从而提供了一种新的方法。通过数值实验证明了该方法的高效性。
Nov, 2023