Mar, 2016

关于 L1 惩罚稀疏精度矩阵估计的不一致性

PDF
TL;DR本文研究了基于 L1 范数的估计方法在一类带稀疏潜变量模型中的一致性问题，证明了存在变量近似线性相关的情况下这些方法会失效，而且 L1 方法在实际的基因网络中也不可靠。
sparse precision matrix estimationgraphical lassoclimelatent variable modelslinear dependencies
发现论文，激发创造
  • 使用 $l_1$ 惩罚的高维线性混合效应模型估计

    本研究提出了一种针对高维线性混合效应模型的 $\ell_1$- 惩罚估计过程，该模型对于高维观测中存在分组结构的数据非常有用。我们证明了一致性和优化性结果，并开发了一种具有可证明数值收敛性的算法。此外，我们还在模拟和实际高维数据集上展示了该方法的性能。

    Feb, 2010

  • 稀疏伪似然图模型选择的优化方法

    该研究提出了两种基于近端梯度方法的算法，用于在拟似似然框架中执行 l1 - 正则化的逆协方差矩阵评估，证明了该方法具有很好的收敛性和可扩展性。

    Sep, 2014

  • 基于 $l_1$ 和 $l_1+l_2$ 惩罚的线性和逻辑回归模型中的诚实变量选择

    本论文探讨了利用 $\ell_1$ 和 $\ell_1+\ell_2$ 型惩罚方案进行有限样本下的变量选择的正确方法，并研究了在给定的置信水平下，如何通过样本大小、参数数量等因素来确定信号强度和调整参数值的条件。同时，该文分析证明了在可识别模型中，这两种方法均可以恢复大小为 $1/\sqrt {n}$ 的系数。

    Aug, 2008

  • 稀疏惩罚优化

    本文介绍从一般的角度分析在使用稀疏估计方法中相关的优化工具和技术，包括近端方法、块坐标下降、加权 L2 正则技术、工作集和家族方法以及非凸形式和扩展。同时，我们提供了一组广泛的实验来比较各种算法在计算方面的差异。

    Aug, 2011

  • 同时稀疏和低秩矩阵的估计

    本文介绍了一种罚矩阵估计过程，旨在同时具有稀疏和低秩的解决方案。我们引入了一个凸混合惩罚，同时涉及 l1 范数和迹范数。我们在链接预测问题中限制了广义误差，并开发了近端下降策略以有效解决优化问题，并在合成和真实数据集上评估了性能。

    Jun, 2012

  • 稀疏精度矩阵估计的受限 L1 最小化方法

    本文提出了一种基于线性规划的 L1 最小化方法，用于估计稀疏逆协方差矩阵和选择图模型，其直观易用、收敛速度快且效果优于现有方法，适用于实际数据分析。

    Feb, 2011

  • 推断具有潜在结构的稀疏高斯图模型

    本文介绍了一种新的方法来恢复具有约束拓扑结构的图模型，方法使用了一个潜在结构来驱动一个惩罚矩阵，并同时执行变量之间的条件依赖图和隐含变量的推断

    Oct, 2008

  • Lasso 方法下的高维图表与变量筛选

    该文介绍了如何使用 lasso 算法来进行高维稀疏图的协方差无关估计，实现了变量选择，并控制了图中误连接不同的连通分量的概率，最终实现了稀疏图的一致性估计。

    Aug, 2006

  • 通过稀疏极大似然估计进行模型选择

    使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。

    Jul, 2007

  • 具收敛保证的高维偏相关估计的凸伪似然框架

    本文提出了一种基于新的拟然似然方法的图形模型选择方法，旨在克服当前方法的一些不足之处，并同时保留它们各自的优点。我们引入了一个新的框架，它导致了一个部分协方差回归图的凸形式。通过采用坐标 - wise 方法来优化这个目标，进而实现目标函数的优化。

    Jul, 2013