ICMLJun, 2012

同时稀疏和低秩矩阵的估计

PDF
TL;DR本文介绍了一种罚矩阵估计过程，旨在同时具有稀疏和低秩的解决方案。我们引入了一个凸混合惩罚，同时涉及 l1 范数和迹范数。我们在链接预测问题中限制了广义误差，并开发了近端下降策略以有效解决优化问题，并在合成和真实数据集上评估了性能。
penalized matrix estimationsparselow-rankconvex mixed penaltylink prediction
发现论文，激发创造
  • 同时结构化模型及其在稀疏和低秩矩阵中的应用

    本文研究的是如何恢复一个结构化模型的问题，我们探讨了使用多目标优化得到的结果与只利用其中一个结构的算法的结果相当的现象。此外，我们还详细研究了稀疏低秩矩阵恢复问题所需的样本数，证明了本文提出的非凸公式在这种情况下表现比凸公式更好。

    Dec, 2012

  • 低秩矩阵估计的更快速度和 Oracle 特性

    本研究提出了一种统一的低秩矩阵估计方法，使用非凸惩罚，证明其在统计学上比传统方法更快，且具有奥卡姆属性（即精确地恢复矩阵的真实秩），并在人工合成和真实数据集上的数值实验证实了我们的理论。

    May, 2015

  • 稀疏置换不变协方差估计

    提出一种构建稀疏估计器的方法，用于高维背景下的逆协方差（浓度）矩阵，使用罚函数正态似然方法强制使用 Lasso 型惩罚，并在数据维数 $p$ 和样本量 $n$ 随着增长收敛速率之间建立 Frobenius 范数。同时对真实浓度矩阵进行稀疏度量，提出一种基于相关性的方法，在操作规范下具有更好的收敛速率，推出一种快速迭代算法用于计算估计值，利用常用的 Cholesky 分解反演，得到一种置换不变的估算法，文中将这种方法应用于癌症组织分类的基因表达数据上，并与其他估算方法进行了比较。

    Jan, 2008

  • 稀疏惩罚优化

    本文介绍从一般的角度分析在使用稀疏估计方法中相关的优化工具和技术，包括近端方法、块坐标下降、加权 L2 正则技术、工作集和家族方法以及非凸形式和扩展。同时，我们提供了一组广泛的实验来比较各种算法在计算方面的差异。

    Aug, 2011

  • 高维低秩矩阵的估计

    本文研究用惯性系数约束和 Frobenius 范数限制下的惩罚最小二乘估计的 Schatten-p 准范惩罚项估计法，能够有效地在高维数据下进行矩阵估计。

    Dec, 2009

  • 稀疏尖峰协方差矩阵的最优估计和秩检验

    本文研究高维情况下的稀疏尖峰协方差矩阵模型，探讨了协方差矩阵和主子空间的极小极大估计以及极小极大排名检测。在估算尖峰协方差矩阵的最优收敛速率下建立了基于谱范数的优化， 并且还建立了在谱范数下估计主子空间的最小值率，也获取了最优排名检测边界的速率。

    May, 2013

  • 推断具有潜在结构的稀疏高斯图模型

    本文介绍了一种新的方法来恢复具有约束拓扑结构的图模型，方法使用了一个潜在结构来驱动一个惩罚矩阵，并同时执行变量之间的条件依赖图和隐含变量的推断

    Oct, 2008

  • 稀疏精度矩阵估计的受限 L1 最小化方法

    本文提出了一种基于线性规划的 L1 最小化方法，用于估计稀疏逆协方差矩阵和选择图模型，其直观易用、收敛速度快且效果优于现有方法，适用于实际数据分析。

    Feb, 2011

  • 关于 L1 惩罚稀疏精度矩阵估计的不一致性

    本文研究了基于 L1 范数的估计方法在一类带稀疏潜变量模型中的一致性问题，证明了存在变量近似线性相关的情况下这些方法会失效，而且 L1 方法在实际的基因网络中也不可靠。

    Mar, 2016

  • 迹范数惩罚的低秩优化

    本文提出一种通过交替固定秩优化与秩一更新来解决低秩矩阵迹范数最小化问题的算法，针对具有理曼结构的非线性搜索空间，利用有效的因子分解实现了迹范数在搜索空间的可微以及对偶间隙的数值计算可行，提出了一个拥有保证二次收敛速度的二阶信任域算法，并以低秩矩阵完成和多元线性回归问题为例说明了该算法的性能。

    Dec, 2011