belief propagation has been widely used for marginal inference, however it is
slow on problems with large-domain variables and high-order factors. Previous
work provides useful approximations to facilitate infere
本文引入一种新的技术 —— 随机正交序列消息传递(SOSMP)—— 用于计算具有连续随机变量模型中的 BP 固定点,通过对信息的正交级数展开的确定性近似和基础系数的积分更新的蒙特卡洛估计的随机近似 贴近 BP 固定点,此技术已被证明在任何树形图和满足缩小条件的任何图形中的 BP 更新都会收敛到唯一的 BP 固定点的 δ 邻域。同时,我们演示了如何根据所需的近似精度 δ 和兼容性函数的平滑度来选择基础系数的数量,并通过模拟实例和光流估计应用证明了我们理论的正确性。
我们提出了一种在高斯因子图中进行学习的方法,将所有相关的量(输入、输出、参数、潜变量)都视为随机变量,并将训练和预测视为具有不同观察节点的推理问题。我们的实验结果表明,这些问题可以通过信念传播(BP)进行高效求解,其更新在本质上是局部的,为分布式和异步训练提供了令人兴奋的机会。我们的方法可以扩展到深度网络,并提供了一种自然的方法进行连续学习:使用当前任务的 BP 估计参数边缘作为下一个任务的参数先验。在视频去噪任务中,我们展示了可学习参数相对于经典因子图方法的优势,并展示了深度因子图在 MNIST 连续图像分类上令人鼓舞的性能。