We propose an original particle-based implementation of the Loopy Belief
Propagation (LPB) algorithm for pairwise markov random fields (MRF) on a
continuous state space. The algorithm constructs adaptively effici
本文提出了一种基于解线性方程组的方法,用于近似解决循环因子带权 Markov 随机场的置信传播问题,并且这种方法能够同时享有完全收敛的保证和较快的矩阵实现、适应于异质网络的特点。实验结果表明,在节点权重较弱的网络图上,这种线性化的方法在保证准确性的同时大大加快了推断速度,达到了与 BP 相当的标签准确性。
本研究提出了一种新的确定性逼近方法 ——“期望传播”,它将两种先前的技术统一起来,即卡尔曼滤波器的扩展和贝叶斯网络中一种置信传播方法的扩展;试图恢复一个近似分布,其 KL 散度接近真实分布,并且 Experiments with Gaussian mixture models show Expectation Propagation to be convincingly better than methods with similar computational cost: Laplace's method, variational Bayes, and Monte Carlo。而期望传播还提供了一种高效的算法,用于训练贝叶斯点机分类器。
本文引入一种新的技术 —— 随机正交序列消息传递(SOSMP)—— 用于计算具有连续随机变量模型中的 BP 固定点,通过对信息的正交级数展开的确定性近似和基础系数的积分更新的蒙特卡洛估计的随机近似 贴近 BP 固定点,此技术已被证明在任何树形图和满足缩小条件的任何图形中的 BP 更新都会收敛到唯一的 BP 固定点的 δ 邻域。同时,我们演示了如何根据所需的近似精度 δ 和兼容性函数的平滑度来选择基础系数的数量,并通过模拟实例和光流估计应用证明了我们理论的正确性。