ICMLMay, 2014

群集图模型的高斯逼近

PDF
TL;DR该论文研究了针对集体统计数据的 Collective Graphical Model（CGM）的高斯近似方法，证明了当样本量增大时，其分布趋近于一个多维高斯分布（GCGM），并探讨了基于不同噪声模型的推断方法。研究结果表明，GCGM 推断方法在准确性和速度上优于 MCMC 和 MAP 方法。
collective graphical modelgaussian approximationmultivariate gaussian distributioninferenceexpectation propagation
发现论文，激发创造
  • 聚类路径高斯图模型

    用 Clusterpath 估计器（CGGM）引入图模型中的变量聚类来解决变量增多的解释性和估计不确定性挑战，通过使用循环块坐标下降算法实现了 CGGM 估计器的高效计算，模拟实验和实际应用中 CGGM 在图模型中的变量聚类中超越了其他先进方法。

    Jun, 2024

  • 高斯 Copula 混合模型的性质

    本文研究了高斯混合模型的推广形式 —— 高斯 Copula 混合模型，基于此模型开发了拓展的 EM 算法估计其参数，通过使用独立的非参数统计方法对每个维度的边缘分布进行估计，GCMM 可以实现对数据更深入的挖掘。实验表明，与高斯混合模型相比，在具有相同簇数的情况下，GCMM 可以实现更好的拟合度，并且可以利用每个维度上的不同步数据进行挖掘。

    May, 2023

  • 使用集合图模型差分隐私学习无向图模型

    研究如何使用 Laplace 机制以不确定的理论基础为代价，在一个期望极大化框架内，通过使用集体图模型的形式化方法对真实充分的统计数据进行推理，以解决学习离散的，无向的图模型的问题，以在合成数据和真实的人员流动数据案例研究中获得比竞争方法更好的模型。

    Jun, 2017

  • 图形模型的顺序蒙特卡罗方法

    通过提出一种新的框架，使用顺序蒙特卡罗方法对概率图模型进行推断，其目的是通过针对辅助分布来逼近概率图模型定义的全联合分布，并用于构建一般 PGM 的高维块采样算法。

    Feb, 2014

  • 稀疏高斯图模型的贝叶斯结构学习

    本文介绍了一种基于贝叶斯框架的高斯图模型确定方法，它是基于连续时间出生 - 死亡过程的转维度马尔可夫链蒙特卡罗方法。该方法易于实现，在高维图形方面具有计算可行性，验证表明该方法在收敛、图形空间中的混合和计算时间方面优于替代贝叶斯方法，并应用于基因表达研究中。

    Oct, 2012

  • 用高斯图模型马蹄联结函数失能数据建模

    我们提出了一个全面的贝叶斯方法，用于确定观察研究中的图形模型，可以同时容纳二元、序数或连续变量。我们的新模型称为 Copula 高斯图形模型（CGGMs），并将图形模型选择嵌入半参数高斯 Copula 中。我们的方法的适用范围非常广泛，涵盖了许多社会科学和经济学研究。我们在分析 16 维功能残疾列联表中展示了 Copula 高斯图形模型的使用。

    Aug, 2011

  • 一种泛化均值场算法用于指数族的变分推断

    在这篇论文中，我们讨论了一种广义均场理论，它使用可追踪分布的丰富集合来近似表示一类难以处理的分布，并通过分布空间上的约束优化来实现。我们还介绍了一类广义均场算法，用于复杂的指数族模型的近似推断，它将复杂模型分解成一组不相交变量簇，并使用一组规范的定点方程来迭代地更新参数，找到保留每个簇内原始依赖结构的局部最优参数，因此完全分解了整体推断问题。通过实验证明，我们比较了不同可追踪族群（不同粒度的簇）对推理质量的影响，并将其与 BP 算法在几个标准模型上进行了比较。还讨论了高阶 MF 逼近的可能扩展。

    Oct, 2012

  • 学习潜变量高斯图模型

    本文介绍了一种条件稀疏的潜变量高斯图模型（LVGGM），利用正则化的极大似然方法来学习具有低秩加稀疏结构的逆协方差矩阵，并在高维情况下得到了新的参数估计误差界限。

    Jun, 2014

  • 概率图模型的近似蕴涵

    本文研究了概率图模型中近似条件独立性的推断和验证问题，发现无向概率图并不能提供准确的条件独立性推断保证，而有向概率图可以通过 $d$-separation 算法准确推断近似条件独立性。此外，还提出了改进的近似保证方法和独立关系推断算法。

    Oct, 2023

  • 带截断高斯图模型的无监督学习

    本文介绍了一种新型 GGMs 变体，其通过在 GGM 上施加二分结构，并使用截断正态分布来管理隐藏变量以放宽高斯限制，实现了非常有效的推断，进而建立了与修正线性单元（ReLU）神经网络的连接，用于真实值，二进制和计数数据的输出构建，还将该模型扩展到深层结构，并展示了深层模型可以用于修正单元神经网络的无监督预训练。大量实验证据证明了提出的模型相对于竞争模型的优越性。

    Nov, 2016