循环置信传播用于近似推理:实证研究
通过在loopy belief propagation算法中建立Gibbs度量的依据,我们探讨了算法的收敛性并开发了易于测试的充分条件。收敛的失败意味着Gibbs规范的多相存在。这些结果为算法的机理提供了新的见解。
Dec, 2012
本研究提出了一种新的确定性逼近方法——“期望传播”,它将两种先前的技术统一起来,即卡尔曼滤波器的扩展和贝叶斯网络中一种置信传播方法的扩展;试图恢复一个近似分布,其KL散度接近真实分布,并且Experiments with Gaussian mixture models show Expectation Propagation to be convincingly better than methods with similar computational cost: Laplace's method, variational Bayes, and Monte Carlo。而期望传播还提供了一种高效的算法,用于训练贝叶斯点机分类器。
Jan, 2013
本文介绍了动态贝叶斯网络中的 Factor Frontier算法,描述了其与Loopy信念传播算法(简称LBP) 的循环迭代等价性,对水处理厂和高速公路交通模型进行了实证研究,发现通过迭代,LBP可以提高模型的准确度,适用于准确更新步骤不可行的情况。
Jan, 2013
本研究提出一种新颖的推断算法,可用于任意的、二元的、无向图。该算法直接下降Bethe自由能,更新成对概率和边际概率,以获得本地最小值。同时,该算法的稳定性为数据学习图模型提供了理想手段。
Jan, 2013
本文提出了一种基于解线性方程组的方法,用于近似解决循环因子带权 Markov 随机场的置信传播问题,并且这种方法能够同时享有完全收敛的保证和较快的矩阵实现、适应于异质网络的特点。实验结果表明,在节点权重较弱的网络图上,这种线性化的方法在保证准确性的同时大大加快了推断速度,达到了与 BP 相当的标签准确性。
Feb, 2015
本研究提出了一种基于粒子的Loopy Belief Propagation实现方法,它在连续状态空间上构建了适应性高效的提议分布,使用Expectation Propagation框架迭代更新参数,具有更优的效果和更少的计算代价。
Jun, 2015
本文研究了二阶不确定贝叶斯网络,提出了一种名为SOLBP的扩展Loopy Belief Propagation的方法,能够有效地计算模型不确定性并产生与sum-product网络相一致的推理结果。
Aug, 2022
本文介绍Quantified Boolean Bayesian Network (QBBN),提供了逻辑和概率推理的统一视角,通过创建具有逻辑推理基础的无界布尔变量的贝叶斯网络,以解决信息检索中大型语言模型(LLM)产生幻觉的问题,并且研究了推断方法中的LBP的使用和收敛性。
Feb, 2024