May, 2012

$\ell_0$- 惩罚最大似然方法用于稀疏有向无环图

PDF
TL;DR本文研究高维稀疏有向无环图模型或等价的高斯结构方程模型的结构和参数的正则化最大似然估计问题，证明了 DAG 的 $l_0$- 惩罚最大似然估计器具有与最小边 I-MAP 相同数量的边，以 Frobenius 范数收敛，允许节点数 p 远大于样本量 n，但假设稀疏性条件和任何真实 DAG 的任何表示至少有一定比例的非零边权值高于噪声水平，结果不依赖于忠实度假设或基于条件独立测试的方法。
maximum likelihood estimationsparse directed acyclic graph modelgaussian distributionfrobenius normsparsity condition
发现论文，激发创造
  • 离散数据有向无环图的惩罚估计

    本文提出了一种针对大参数空间和稀疏结构难以搜索的问题的极大化惩罚似然方法，该模型将一个节点的条件分布模型化为多元逻辑回归，通过使用组规范惩罚来获得稀疏的有向无环图。应用该方法得出结果表明其在建立因果关系的有向图方面比现有方法具有更高的效率。

    Mar, 2014

  • 通过稀疏极大似然估计进行模型选择

    使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。

    Jul, 2007

  • 利用惩罚邻域回归学习有向无环图

    研究了一种正则化的基于得分的评估器族，可以从高维数据中学习多元正态分布的有向无环图（DAG）的结构，通过损失函数惩罚最小二乘估计，支持多种正则化方法，并且首次提出了在高维条件下基于得分的有向无环图结构学习的有限样本保证。

    Nov, 2015

  • 关于稀疏性和 DAG 约束在学习线性 DAG 中的作用

    通过研究稀疏性和 DAG 约束的渐近作用，提出了一种基于类似似然函数的求解 DAG 约束的无约束优化方法，该方法能够在处理成千上万个节点时仍然保持高精度。实验证明，该方法比使用最小二乘法和硬 DAG 约束的方法更加有效。

    Jun, 2020

  • 不强制无环的情况下学习有向无环图 (DAGs)

    本文章通过 L1 正则化优化的稀疏矩阵分解方法，得到逼近 DAG 的图结构，避免了传统结构学习算法在组合复杂度方面的缺陷。

    Jun, 2020

  • 凹惩罚估计稀疏高斯贝叶斯网络

    本文提出了一种基于得分的结构学习快速算法的罚似然估计框架，该快速算法不受限制地处理高维数据集，并使用凹规则化以解决估计问题的固有不可识别性。其中，高斯贝叶斯网络是重点研究领域之一。

    Jan, 2014

  • 基于最稀疏排列的有向无环图学习

    该研究提出了一种新的基于分数的算法（SP 算法）来学习贝叶斯网络或有向无环图（DAG）模型，该算法在弱于忠实性假设的条件下具有一致性保证，并且在一些小 DAG 的模拟中表现出与其他算法相比的优越性。

    Jul, 2013

  • 利用 PC 算法估计高维有向无环图

    本文考虑了使用 PC 算法来估计具有相应高斯分布的高维无向无环图骨架的计算问题，并证明了算法对非常高维的稀疏 DAG 的一致性。

    Oct, 2005

  • CAM: 因果加性模型，高维序列搜索和罚函数回归

    本研究提出了一种可以用于高维附加结构方程模型的估计方法，并建立了估计量的一致性，同时还开发了一种计算算法来处理许多变量，并通过模拟和实际数据验证方法的准确性和性能。

    Oct, 2013

  • 推断具有潜在结构的稀疏高斯图模型

    本文介绍了一种新的方法来恢复具有约束拓扑结构的图模型，方法使用了一个潜在结构来驱动一个惩罚矩阵，并同时执行变量之间的条件依赖图和隐含变量的推断

    Oct, 2008