自顶向下的贝叶斯后验抽样在和积网络中的应用
本文介绍了一种基于贝叶斯模型选择方法的新算法,通过在网络变量之间建立固定顺序的基础上逼近特征的贝叶斯后验概率,并使用马尔可夫蒙特卡罗方法,使得顺序空间更加平滑,对与其它方法进行了比较实验。
Jan, 2013
本文研究和探讨了和Sum-Product Networks有关的Bayesian Networks的理论联系,并给出了使用Algebraic Decision Diagrams来表示和转换SPN为BN的一个线性时间和空间复杂度的算法。同时,用Variable Elimination算法来恢复原始的SPN,并且介绍了SPN的深度和对应的BN树宽的下界之间的联系。
Jan, 2015
本文提出了一种统一的方法来学习Sum-Product networks (SPNs)的参数,在混合模型的角度下,我们表征了基于最大似然估计(MLE)原理的学习SPNs的目标函数,并展示了优化问题可以被转化为一个符号函数规划的形式。同时,我们使用顺序单项逼近(SMA)和凸凹过程(CCCP)构建了两种SPNs参数学习算法,这些方法自然地采用了乘法更新,从而有效地避免了投影操作。通过统一的框架,我们还展示,在SPNs的情况下,CCCP导致与期望最大化(Expectation Maximization,EM)相同的算法尽管它们在一般情况下是不同的。
Jan, 2016
本文提出了一种SPN增强方法,将sum节点解释为潜在变量(LVs),并指出以前的方法与SPN的完备条件冲突,未充分识别概率模型。作者给出了SPN的EM算法派生和Viterbi算法的正确性,同时在合成和103个真实数据集上得到了验证。
Jan, 2016
本文提出了一种新的基于SPN和深度神经网络的概率深度学习模型,称为RAT-SPNs,该模型具有充分评估数据似然,任意边缘化和条件任务的优势,并且仍然可解释为生成模型,并保持了良好的校准不确定性,从而使其高度鲁棒性和自然地检测异常值和独特样本。
Jun, 2018
SPFlow是一个开源Python库,提供深度和可计算概率模型称为Sum-Product Networks(SPNs)的推理、学习和操作例程的简便接口。它不仅实现了几种概率推理例程,还提供了序列化、绘图和结构统计的实用程序。此外,SPFlow还支持各种学习算法,并具有扩展性和可自定义性,可让用户通过自定义代码注入轻量级面向API结构快速提取新的推理和学习例程。
Jan, 2019
该论文提出了一种新的概率模型,称为Exchangeability-Aware Sum-Product Networks (XSPNs),它结合了Sum-Product Networks和mixtures of exchangeable variable models的优点,包括SPNs的高效深度学习和MEVMs处理可交换随机变量的高效性,并介绍了适用于XSPNs的结构学习算法。实验表明,当数据包含重复、可互换的部分时,XSPNs比传统的SPNs更准确。
Oct, 2021
研究使用贝叶斯神经网络作为替代标准高斯过程代理模型进行优化,并比较了多种不同的近似推理程序,发现在不同问题中,方法的排名高度依赖于问题本身。其中,在高维问题中,无限宽度的贝叶斯神经网络特别有前途。
May, 2023
本文研究高斯过程网络 (GPNs) 的贝叶斯结构学习问题,提出基于蒙特卡罗和马尔可夫链蒙特卡罗方法的网络结构后验分布抽样算法,并在模拟实验中证明该方法在恢复网络图形结构和提供准确后验分布方面优于现有算法。
Jun, 2023