研究高维稀疏主成分分析,提出了行稀疏和列稀疏的 lq 子空间稀疏概念,并为 0≤q≤1 证明了极小化子空间估计误差的非渐近下限和上限。这一限制完美适用于行精疏的子空间,并且近乎适用于列精疏的子空间。我们使用一种新颖的变分 sinΘ 定理进行证明,该定理可能对其他正则化谱估计问题有用。
Nov, 2012
本论文研究基于高维独立的高斯观测下,对总体协方差矩阵中的主要特征向量进行估计的问题。研究者们提出了一种基于坐标选择方案结合 PCA 的主要特征向量估计器,并证明了该估计器在稀疏条件下可以达到最优收敛速率。同时,也证明在某些情形下,通常的 PCA 可以达到最小最大收敛速率。
Feb, 2012
本文研究了基于独立的高斯观测量对高维种群协方差矩阵的主导特征向量的估计问题,建立了 $l_2$ 损失下估计量最小风险的极小界,并提出了一种新的二阶段坐标选择方案的特征向量估计方法。
Mar, 2012
本文考虑了高维情况下主成分子空间的极小值估计和自适应估计,并利用聚合构建了速率最优估计器。同时介绍了一种通过降维来对稀疏主成分分析问题求解的方法。
通过研究计算复杂性理论,发现在满足一定限制的协方差集中条件下存在有效的样本大小范围,在此范围内无法有随机多项式时间算法达到最佳极小风险率;对著名的半定松弛估计方法的理论性能进行研究,揭示了统计效率和计算效率之间微妙的相互作用,此方法为多维数据稀疏主成分分析提供了一种解决方案。
Aug, 2014
通过有限样本分析,我们提出了一个新的基于稀疏特征值统计量的极小化最佳检验方法,使用凸松弛的方法实现了有效性,并证明其接近于最优的检测水平。通过计算机模拟实验,我们证明了该方法在检测高维协方差矩阵的稀疏主成分方面的有效性。
本文研究了标准线性回归模型的极小极大收敛速度,证明在合适的设计矩阵正则化条件下,最小值误差在 $L_2$-,$L_{oldsymbol r}$- 损失和 $L_{oldsymbol 2}$- 预测损失内达到了收缩速度。同时,我们提供了 $L_{oldsymbol r}$- 范数的极小极大风险下限。
Oct, 2009
本文研究了高维 PCA 问题,通过添加 $k$-sparse 最大特征向量来扰动协方差矩阵,并分析了两种可计算的最大特征向量恢复方法:一种是简单的对角线阈值法,另一种是复杂的半定规划 (SDP) 松弛法,研究结果突出高维推断中计算与统计效率的权衡。
Mar, 2008
文章研究 PCA 的重构误差,并证明了相关超额风险的非渐进上界。这些界限统一并改进了文献中的现有上界。特别地,它们在较小的特征值条件下提供了 oracle 不等式。这些界限揭示了超额风险与基于标准角度的子空间距离有明显差异。我们的方法基于经验谱投影仪的分析,结合加权经验协方差算子和经验特征值的集中不等式。
Sep, 2016
提出一个名为 'tighten after relax' 的两阶段计算框架,其中第一阶段使用建议的凸松弛方法进行近似求解,第二阶段则通过直接求解基础非凸问题的新算法'sparse orthogonal iteration pursuit' 来迭代优化初始估计值,并证明该框架的稳定性和最优性在特定模型类别下成立。