Jul, 2007

通过稀疏极大似然估计进行模型选择

PDF
TL;DR使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。
undirected graphical modelmaximum likelihoodl_1-norm penaltyblock coordinate descentnesterov's first order method
发现论文，激发创造
  • 使用二次逼近法稀疏逆协方差矩阵估计

    本研究提出了一种基于牛顿法的新型算法，用于解决优化问题，该问题是一个正则化的对数行列式程序，能够从非常有限的样本中恢复稀疏逆协方差矩阵，或者是高斯马尔科夫随机场的基础图结构，并通过合成和真实的应用数据实验结果表明，与其他最先进的方法相比，我们的方法在性能上有了显着的改进。

    Jun, 2013

  • 局部高斯图模型估计

    本文研究了从高维实证观测中对高斯图模型进行部分估计的方法，提出了使用 $\ell_1$-regularized 最大似然估计的凸优化模型，并采用块坐标下降算法进行求解。实验证明该方法在统计估计性能和实际应用中表现优异。

    Sep, 2012

  • 使用离散优化的稀疏高斯图模型：计算和统计视角

    我们提出了一种稀疏图的学习方法，应用于一个无向高斯图模型的问题，并通过凸混合整数规划框架得到了新的估计器，该估计器在稀疏性精度矩阵的估计与变量选择方面有着优越的性能。

    Jul, 2023

  • $\ell_0$- 惩罚最大似然方法用于稀疏有向无环图

    本文研究高维稀疏有向无环图模型或等价的高斯结构方程模型的结构和参数的正则化最大似然估计问题，证明了 DAG 的 $l_0$- 惩罚最大似然估计器具有与最小边 I-MAP 相同数量的边，以 Frobenius 范数收敛，允许节点数 p 远大于样本量 n，但假设稀疏性条件和任何真实 DAG 的任何表示至少有一定比例的非零边权值高于噪声水平，结果不依赖于忠实度假设或基于条件独立测试的方法。

    May, 2012

  • 非凸优化在潜变量高斯图模型估计中的加速

    通过矩阵分解方法和基于硬阈值的迭代梯度下降算法，我们提出了一个针对潜变量高斯图模型（LVGGM）的稀疏和低秩分量的估计方法，实验结果表明该算法比现有算法更加优越。

    Feb, 2017

  • 稀疏伪似然图模型选择的优化方法

    该研究提出了两种基于近端梯度方法的算法，用于在拟似似然框架中执行 l1 - 正则化的逆协方差矩阵评估，证明了该方法具有很好的收敛性和可扩展性。

    Sep, 2014

  • 推断具有潜在结构的稀疏高斯图模型

    本文介绍了一种新的方法来恢复具有约束拓扑结构的图模型，方法使用了一个潜在结构来驱动一个惩罚矩阵，并同时执行变量之间的条件依赖图和隐含变量的推断

    Oct, 2008

  • 稀疏条件高斯图模型的大规模优化算法

    本文提出了一种基于牛顿法的优化程序，通过迭代两个子问题来实现高效计算，使用块协调下降来限制内存使用并实现快速收敛，解决了大规模问题下的内存限制和精度问题。

    Sep, 2015

  • 稀疏协方差选择的一阶方法

    通过最大似然方法和稀疏表示技术，提出了一种求解协方差矩阵的可凸松弛算法，并能突出样本变量之间的条件独立关系。

    Sep, 2006

  • 稀疏广义线性模型的大规模变分推断和实验设计

    本文介绍了一种基于贝叶斯思想的算法框架，通过查询稀疏线性模型后验协方差来解决高阶贝叶斯决策问题，并且利用该算法框架成功地推动了磁共振成像的采样轨迹优化，为实际图像的压缩感知提供了新的启示。

    Oct, 2008