Jan, 2009

通过阈值截断实现协方差正则化

PDF
TL;DR通过硬截断的方式对 $p$ 个变量从 $n$ 个观测值中估计的协方差矩阵进行正则化，结果表明如果真实的协方差矩阵在适当意义下是稀疏的，变量是高斯的或亚高斯的，并且 $(log p)\/n\to0$，则截断估计在算子范数下是一致的，并获得了明确的收敛速率；结果在满足相当自然的稀疏性概念的协方差矩阵族上是统一的。在阈值选择方面，我们讨论了一种直观的重采样方案，并证明了一般交叉验证结果来证明这一方法的合法性。此外，我们还通过模拟和气候数据实例，将截断估计与其他协方差估计方法进行比较。
covariance matrixhard thresholdingsparsitygaussiancross-validation
发现论文，激发创造
  • 稀疏协方差矩阵估计的自适应阈值化

    本文提出一种自适应节流估计程序，适应于独立条目的变异性，用于估计稀疏协方差矩阵，该估计器完全是数据驱动的，性能在理论和数字上均表现出优秀水平，并且自适应地在谱范数下实现了大类稀疏协方差矩阵的最优收敛率，同时，普遍使用的通用阈值估计器在相同的参数空间下被证明是次优的，支持恢复也将被讨论。

    Feb, 2011

  • 基于协方差阈值的稀疏主成分分析

    该研究分析了一个新颖的协方差阈值算法，并且证明了该算法在稀疏主成分分析中恢复支持的高可靠性，同时也探讨了核随机矩阵范数的新界限。

    Nov, 2013

  • 大规模图形 Lasso 中的精确协方差阈值分解为连通组件

    本文探讨了稀疏逆协方差规则化或利用规则化参数 $\rho$ 的图形套索问题。我们提出一个简单的规则，该规则可拆分大规模图形套索问题为更小的易处理问题，从而获得巨大的性能提升。

    Aug, 2011

  • 高维变量选择和统计估计的阈值套索方法

    通过 Thresholded Lasso 过程，对带噪声的低维数据进行精确估计，同时实现对是稀疏向量的估计和预测，这是因为该过程遵循受限特征值条件和匀致不确定性原则，简而言之，提出了使用 Lasso 方法求解线性模型上的稀疏问题的新方法，并通过模拟验证了理论分析的正确性。

    Feb, 2010

  • 通过最小化 L1 惩罚对数行列式差异来进行高维协方差估计

    研究了通过最大似然方法估计多元高斯随机场的条件密度函数的逆矩阵，即集中矩阵，并基于图结构进行了解析，同时讨论了其在高维情况下的稳定性和性能

    Nov, 2008

  • 基于阈值和最大行列式矩阵完成的大规模稀疏逆协方差估计

    本文通过软阈值和最大行列式矩阵填充问题来探讨解决稀疏逆协方差矩阵估计问题的一种高效算法

    Feb, 2018

  • 稀疏协方差矩阵估计的最优收敛速率

    本文研究了如何估计稀疏协方差矩阵，建立了在矩阵算子范数和 Bregman 散度损失下的最优收敛率，主要关注建立速率锐利的极小值下限，使用新工具解决此问题。我们首先开发了一种下边界技术，特别适用于处理估计稀疏协方差矩阵等 “双向” 问题。我们随后使用这种下边界技术，建立在谱范数下估计稀疏协方差矩阵的速率锐利的极小值下限。

    Feb, 2013

  • 稀疏置换不变协方差估计

    提出一种构建稀疏估计器的方法，用于高维背景下的逆协方差（浓度）矩阵，使用罚函数正态似然方法强制使用 Lasso 型惩罚，并在数据维数 $p$ 和样本量 $n$ 随着增长收敛速率之间建立 Frobenius 范数。同时对真实浓度矩阵进行稀疏度量，提出一种基于相关性的方法，在操作规范下具有更好的收敛速率，推出一种快速迭代算法用于计算估计值，利用常用的 Cholesky 分解反演，得到一种置换不变的估算法，文中将这种方法应用于癌症组织分类的基因表达数据上，并与其他估算方法进行了比较。

    Jan, 2008

  • 协方差估计：广义线性模型和正则化视角

    本文提供了一种将协方差矩阵估计问题转化为回归问题的方法，通过压缩维度，追求稀疏性和构建新的可解释性的矩阵分解，解决了在高维数据情况下使正定约束成本过高的问题。

    Feb, 2012

  • 稀疏精度矩阵估计的受限 L1 最小化方法

    本文提出了一种基于线性规划的 L1 最小化方法，用于估计稀疏逆协方差矩阵和选择图模型，其直观易用、收敛速度快且效果优于现有方法，适用于实际数据分析。

    Feb, 2011