用分数边际伪似然学习高斯图模型

Feb, 2016

用分数边际伪似然学习高斯图模型

Learning Gaussian Graphical Models With Fractional Marginal Pseudo-likelihood

Janne Leppä-aho, Johan Pensar, Teemu Roos, Jukka Corander

TL;DR本文提出了一种新的基于贝叶斯近似推断的方法，用于学习高斯图模型的依赖结构，通过伪似然方法，无需引入有关可分解性的任何假设即可得到近似边缘似然值，结合简单的稀疏性先验和默认的参考 prior，得到了一个快速适用于高维数据的评估函数，本方法与其他方法的比较表明其性能良好并且能够一致地估计图结构。

Abstract

We propose a Bayesian approximate inference method for learning the dependence structure of a gaussian graphical model. Using pseudo-likelihood, we derive an analytical expression to approximate the marginal likelihood<

bayesian inference gaussian graphical model marginal likelihood sparsity inducing prior non-decomposable graphs

发现论文，激发创造

使用近似边缘推断学习图模型参数

本文研究直接拟合参数以最大化预测边际准确性度量的方法，该方法考虑训练时间模型和推理近似。对成像问题的实验表明，边际化学习在拟合的模型近似的困难问题上比似然近似表现更好。

Jan, 2013

超越正态分布：在非高斯环境中学习稀疏概率图模型

该论文提出了一种算法，用于在连续和非高斯概率分布中识别稀疏的依赖结构，并利用依赖结构来进行更准确的分布估计和推理。

Nov, 2017

稀疏高斯图模型的贝叶斯结构学习

本文介绍了一种基于贝叶斯框架的高斯图模型确定方法，它是基于连续时间出生 - 死亡过程的转维度马尔可夫链蒙特卡罗方法。该方法易于实现，在高维图形方面具有计算可行性，验证表明该方法在收敛、图形空间中的混合和计算时间方面优于替代贝叶斯方法，并应用于基因表达研究中。

Oct, 2012

推断具有潜在结构的稀疏高斯图模型

本文介绍了一种新的方法来恢复具有约束拓扑结构的图模型，方法使用了一个潜在结构来驱动一个惩罚矩阵，并同时执行变量之间的条件依赖图和隐含变量的推断

Oct, 2008

局部高斯图模型估计

本文研究了从高维实证观测中对高斯图模型进行部分估计的方法，提出了使用 $\ell_1$-regularized 最大似然估计的凸优化模型，并采用块坐标下降算法进行求解。实验证明该方法在统计估计性能和实际应用中表现优异。

Sep, 2012

具潜变量的循环图模型学习：高效方法与保证

研究了隐变量图模型中的结构估计问题，提出了一种计算高效且保证正确性的方法，并应用于局部树状结构的模型及相关衰减的模型，特别地，对于伊辛模型，该方法能与采样要求的下界接近。

Mar, 2012

高斯过程的伪边缘贝叶斯推断

本文提出了一种基于伪边缘法的马尔可夫链蒙特卡罗通用策略，有效地解决了使用高斯过程先验的精确贝叶斯推理和模型参数不确定性导致的数据预测问题。此外，Monte Carlo 积分可用于预测中的所有模型参数，这在高斯过程的层次统计模型中具有重要意义，并与最先进的概率分类器进行了广泛的比较。

Oct, 2013

具有基于评分的结构先验知识的部分已知高斯图模型估计

我们提出了一种新的算法，用于部分已知高斯图模型的支持估计，该算法结合了关于底层图的先验信息。 im 简化后，我们通过伯努利分布生成图数据集，然后使用图神经网络有效地估计图先验的评分。数值实验证明了我们方法的优势。

Jan, 2024

深度学习模型选择的可扩展边缘似然估计

作为深度学习中模型选择的有前途的边际似然方法由于参数估计上的困难很少被使用。本研究提出了可伸缩的边缘似然估计方法，用于基于训练数据独立地选择超参数和网络结构。该方法建立在拉普拉斯方法和高斯牛顿逼近的黑塞矩阵的基础上，并在标准回归和图像分类数据集上表现优异。此外，该方法还能够在缺少验证数据（例如在非平稳设置中）时提高一般化性能。

Apr, 2021

高斯协方差模型中高效的似然推断的图形方法

介绍了如何将双向图转化为最大祖先图，以提高高斯模型中的极大似然函数迭代求解效率及找出最大似然估计等于经验估计的情况。

Aug, 2007