近似推理与约束优化
本文介绍了一种统一的消息传递算法架构来处理概率推断的两种形式:估计联合分布的边缘概率和找到最可能的分配,通过推广和介绍新的收敛算法,如“凸自由能”和线性规划松弛.
Mar, 2009
本文提出了一种凸型置信传播算法,可以在满足一定条件下,使用单循环图或重加权树的置信传播算法,在准确性上更加理论化地实现最大概率赋值(MAP)。并且在实验中证明了该方法对一些无法使用传统算法的大型图具有较高的准确率。
Jun, 2012
本研究提出一种新颖的推断算法,可用于任意的、二元的、无向图。该算法直接下降Bethe自由能,更新成对概率和边际概率,以获得本地最小值。同时,该算法的稳定性为数据学习图模型提供了理想手段。
Jan, 2013
本文提出了一种新的多项式时间算法来解决最小化无向图模型的能量问题,利用凸松弛方法得到部分最优非松弛积分解,并采用迭代修建策略优化算法,相较之前的方法表现更好。
Oct, 2014
本文提出了一种基于解线性方程组的方法,用于近似解决循环因子带权 Markov 随机场的置信传播问题,并且这种方法能够同时享有完全收敛的保证和较快的矩阵实现、适应于异质网络的特点。实验结果表明,在节点权重较弱的网络图上,这种线性化的方法在保证准确性的同时大大加快了推断速度,达到了与 BP 相当的标签准确性。
Feb, 2015
我们提出了一个理论框架,用于在给定函子的约束条件下从局部损失的集合中非冗余地重建全局损失,我们称其为区域化损失,是优化问题的自然数学框架,提出了新的消息传递算法,用于嘈杂通道网络的最小化问题,并将广义置信传播算法纳入我们提出的框架。
Jan, 2022
给出了对三个Bethe-Kikuchi变分原理的全面描述,包括它们与信念传播算法在超图上的关系。将信念传播方程的结构推广到定义连续时间扩散,解决最大熵原理(A)、变分自由能原理(B)和一个不太常见的Legendre对偶于A的平衡自由能原理(C)中的局部版本。Bethe-Kikuchi泛函的临界点和稳态信念都被证明位于两个约束曲面的非线性交点上,分别强制能量守恒和边缘一致性。描述了奇异信念的超曲面,当约束曲面以切线相遇时,平衡变得不稳定,这个超曲面由一阶二进制变量图的多项式方程在一致信念的凸多胞体中表达。
Oct, 2023