Jul, 2023

使用离散优化的稀疏高斯图模型：计算和统计视角

PDF
TL;DR我们提出了一种稀疏图的学习方法，应用于一个无向高斯图模型的问题，并通过凸混合整数规划框架得到了新的估计器，该估计器在稀疏性精度矩阵的估计与变量选择方面有着优越的性能。
sparse graphgaussian graphical modelprecision matrixconvex mixed integer programstatistical guarantees
发现论文，激发创造
  • 通过稀疏极大似然估计进行模型选择

    使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。

    Jul, 2007

  • 凹惩罚估计稀疏高斯贝叶斯网络

    本文提出了一种基于得分的结构学习快速算法的罚似然估计框架，该快速算法不受限制地处理高维数据集，并使用凹规则化以解决估计问题的固有不可识别性。其中，高斯贝叶斯网络是重点研究领域之一。

    Jan, 2014

  • 非凸优化在潜变量高斯图模型估计中的加速

    通过矩阵分解方法和基于硬阈值的迭代梯度下降算法，我们提出了一个针对潜变量高斯图模型（LVGGM）的稀疏和低秩分量的估计方法，实验结果表明该算法比现有算法更加优越。

    Feb, 2017

  • 稀疏精度矩阵估计的受限 L1 最小化方法

    本文提出了一种基于线性规划的 L1 最小化方法，用于估计稀疏逆协方差矩阵和选择图模型，其直观易用、收敛速度快且效果优于现有方法，适用于实际数据分析。

    Feb, 2011

  • 张量图模型：非凸优化和统计推断

    本文提出一种针对高维张量数据的估计和推断方法，通过假设数据遵循张量正态分布来简化精度矩阵的估计，使用交替迭代优化算法估计每个稀疏精度矩阵，并且提出一种去偏置统计推断方法来控制虚警率，实证结果证实了该方法在自闭症谱系障碍和广告点击分析等实际应用上的有效性，同时我们将其编码为一个名为 Tlasso 的公开的 R 包。

    Sep, 2016

  • 学习潜变量高斯图模型

    本文介绍了一种条件稀疏的潜变量高斯图模型（LVGGM），利用正则化的极大似然方法来学习具有低秩加稀疏结构的逆协方差矩阵，并在高维情况下得到了新的参数估计误差界限。

    Jun, 2014

  • 推断具有潜在结构的稀疏高斯图模型

    本文介绍了一种新的方法来恢复具有约束拓扑结构的图模型，方法使用了一个潜在结构来驱动一个惩罚矩阵，并同时执行变量之间的条件依赖图和隐含变量的推断

    Oct, 2008

  • 高斯图模型的条件矩阵流

    该研究提出了一种变分推断方法，通过定义于对称正定矩阵空间上的矩阵变分流来逼近高斯图模型的后验分布，对任意正则化参数 λ 和任意 l_p (伪 -) 范数，包括非凸的 l1 伪范数进行联合训练，从而获得一个模型，并可以恢复频率主义的解路径。

    Jun, 2023

  • 大规模稀疏回归：基于一阶优化的分支定界

    本文提出了一种新的混合整数规划框架，结合非线性分支定界和坐标下降方法，用于计算最小二乘回归中的 $l_{0} l_{2}$ 惩罚，证明了该框架不仅比现有方法快很多，而且可以处理一些统计性较强的示例，并提供了 $L0BnB$ 工具箱的开源实现。

    Apr, 2020

  • 稀疏伪似然图模型选择的优化方法

    该研究提出了两种基于近端梯度方法的算法，用于在拟似似然框架中执行 l1 - 正则化的逆协方差矩阵评估，证明了该方法具有很好的收敛性和可扩展性。

    Sep, 2014