贝叶斯结构 EM 算法
本文提出一种新的 k-MAX 算法用于学习具有有界三角形宽度的贝叶斯网络,改进了数据不完全的结构 EM 算法,进而实现了缺失数据的填充。该算法可以在短时间内获得和竞争者相同的缺失数据恢复精度,并且具有线性最坏时间复杂度和易于并行化等优点。
Feb, 2018
本论文研究从数据中学习贝叶斯网络结构的问题,提出了一种算法用于发现最佳的贝叶斯网络结构,通过贝叶斯模型平均计算感兴趣的假设的后验概率,在多个数据集上展示本算法优于模型选择方法和最先进的 MCMC 方法。
Mar, 2012
本文介绍了一种基于贝叶斯模型选择方法的新算法,通过在网络变量之间建立固定顺序的基础上逼近特征的贝叶斯后验概率,并使用马尔可夫蒙特卡罗方法,使得顺序空间更加平滑,对与其它方法进行了比较实验。
Jan, 2013
本文提出了变分贝叶斯 (Variational Bayes) 框架,通过解决概率图模型中潜在变量及其结构计算的问题,避免了因参数而导致过拟合和子最优泛化表现的通常方法,同时证明了该算法能成功应用于无监督聚类、盲源分离等模型。
Jan, 2013
提出了一种新的概率图模型结构学习方法,通过在随机变量实例化级别上操作来学习,推广和解释在这些难以捉摸的领域中,从而解决机器学习方法在精度不尽如人意的情况下的问题,并且通过 Bayesian Knowledge Bases(BKBs)来利用 Information Thermodynamics 和 MDL 原理解决了结构化选择问题并提高了学习效果,最终运用在乳腺癌基因突变数据学习基因调节网络。
Mar, 2023
本文提出了一种通用的在线版本 Expectation-Maximisation 算法,适用于独立观测的隐变量模型,可以更直接地将模型分布与观测的边际分布联系起来,而无需进行完整数据分布的积分,实现了一定的简化和加快收敛的效果,并且还适用于条件模型,例如本文所举出的线性回归模型的混合模型。
Dec, 2007
本文介绍了利用贝叶斯推断从网络数据中提取大规模模块化结构的方法,重点介绍了基于随机块模型(SBM),以及其度修正和重叠推广。提供了一种允许防止过度拟合,实现模型选择的非参数公式。讨论了先验选择的方面,特别是如何通过加强贝叶斯层次结构来避免欠拟合,同时描述了执行单点估计和采样网络分区的有效算法。还展示了如何利用推断 SBM 来预测丢失和虚假链接,并揭示了网络中模块化结构可检测性的根本限制。
May, 2017
我们提出了一种在线性和高斯假设下对结构方程模型稳定的图形结构,证明了计算这个模型的最大似然估计等价于训练一个神经网络,并实现了基于 GPU 的算法来计算这些模型的最大似然估计。
Sep, 2023
本文提供了一个关于期望最大化 (EM) 算法应用于高维潜变量模型推断的一般理论。作者提出了一个新的高维 EM 算法,自然地融入了稀疏结构到参数估计中。基于估计值,作者提出了新的推论程序来测试假设并构建置信区间。这个算法针对广泛的统计模型,提供了高维最先进的估计和渐近推断的第一个可计算的方法。
Dec, 2014