信念传播快速收敛于全局最优解:超越相关性衰减
本研究提出一种新颖的推断算法,可用于任意的、二元的、无向图。该算法直接下降 Bethe 自由能,更新成对概率和边际概率,以获得本地最小值。同时,该算法的稳定性为数据学习图模型提供了理想手段。
Jan, 2013
Circular Belief Propagation (CBP) 是 Belief Propagation (BP) 的扩展,通过学习检测和取消虚假相关性和置信度放大来限制循环引起的消息回声的负面影响,实验结果表明 CBP 在二进制概率图的数值实验中远远超过了 BP,并且与先前提出的算法相比表现良好。
Mar, 2024
本文提出了一种基于解线性方程组的方法,用于近似解决循环因子带权 Markov 随机场的置信传播问题,并且这种方法能够同时享有完全收敛的保证和较快的矩阵实现、适应于异质网络的特点。实验结果表明,在节点权重较弱的网络图上,这种线性化的方法在保证准确性的同时大大加快了推断速度,达到了与 BP 相当的标签准确性。
Feb, 2015
本研究证明了置信传播算法在容量约束最小费用网络流问题上的全多项式运行时间,还证明了算法的随机逼近方案,这提供了理论依据支持置信传播算法成为解决一类重要的优化问题的有吸引力的方法。
Apr, 2010
本文提出了一种低复杂度的信念传播算法 —— 随机信念传播(SBP)算法,该算法是一种自适应随机的 BP 信息传递版本,其信息传递减少了计算复杂度和通讯复杂度,并在各种图形模型中证明了收敛性和计算复杂度降低的理论格局。
Nov, 2011
本文介绍了一种名为计数 BP 的新型 BP 算法,它利用了图模型中存在的对称性,通过构建压缩图模型的方式实现更高效的模型推理,在包括动态关系模型和布尔模型计数等多种人工智能任务中取得显著的效率提升。
May, 2012
我们证明了 Evans,Kenyon,Peres 和 Schulman(2000)的猜想,该猜想表明有限内存的消息传递算法在重构问题上在统计上比置信传播要弱得多,并且通过将递归重构、信息论和最优输送的工具结合起来,还建立了 BP 和其他消息传递算法临界阈值附近的渐近正常性结果。
May, 2019