使用乘法权重学习图形模型
提出了一种新的自然算法,用于从样本中学习一般离散图形模型(即马尔可夫随机场)的图结构,它是一种贪心的算法,并且具有较低的计算复杂度,并且通过节点度数、图大小以及因子图的环来表征其样本复杂度,在此基础上将其专门用于 Ising 模型。
Feb, 2012
本论文提出了一种基于 Junction chains 和线性规划的算法来处理图模型中的近似 MAP-MRF 推断问题,并且在计算机视觉领域取得了一定的性能提升。
May, 2012
通过建立适当的零和游戏,采用概念上的方法来证明相互信息的下限,进而推广到具有高阶交互作用的任意马尔科夫随机场,从而获得在 n 个节点上学习具有 r 阶相互作用的有界次数图上的马尔科夫随机场的算法,样本复杂度为 log (n),时间复杂度为 n^r。
May, 2017
本文研究了从 i.i.d 样本中学习离散无向图结构的计算复杂性。首先,我们指出学习带有噪声的奇偶校验可以作为学习图模型的一个特殊情况。其次,我们提出一个有关统计算法的条件,它们无法在 $p$ 最大度数为 $d$ 的一般图模型上有效学习,因此需要限制模型类的大小。除了对图的结构性假设之外,我们还引入相关性衰减度量,研究了反铁磁模型。我们提供了一个性能介于 $O (p^2)$ 和 $O (p^{d+2})$ 之间的算法。
Dec, 2014
本文介绍了两种新的模拟结构化数据的形式,并证明它们可以捕捉到丰富的结构并可扩展到大规模数据。第一种形式是铰接损失马尔可夫随机场(HL-MRFs),是一种新的概率图模型,可以推广凸轮廓推断的不同方法。第二种新形式是概率软逻辑(PSL),是一种基于一阶逻辑的概率编程语言,使 HL-MRFs 易于定义。这些算法使 HL-MRFs 和 PSL 能够可扩展地模拟以前无法达到的大规模丰富结构数据。
May, 2015
我们研究了从独立同分布采样中学习 Ising 模型(成对二元 Markov 随机场)的结构问题。通过分析多个具体例子,我们发现当 Markov 随机场发展为远程相互关系时,具有低复杂度算法的方法的系统性失效。更具体地说,这种现象似乎与 Ising 模型的相变有关(但并不与之重合)。
Oct, 2009
本文探讨了在高维场景下,从样本中学习成对图模型的结构问题。我们首先讨论了向前向后贪心算法在一般统计模型中应用的稀疏性一致性(稀疏模式恢复)特性。然后,我们将此算法特化到通过邻域估计学习离散图模型的结构问题上。我们的结果保证了样本数 n 随着问题规模 p 的增加而缩放,并且算法仅需要具有受限强凸性条件,这通常比不可表示性假设容易得多。
Jul, 2011
从数据中有效地学习 Ising 模型的底层参数是我们重新审视的问题。我们展示了一种基于逐节点逻辑回归的简单现有方法在多种新颖环境下能成功地恢复底层模型的参数,包括从本地 Markov 链动态生成的数据、自旋玻璃的 Sherrington-Kirkpatrick 模型以及 M - 数据和对抗性 Glauber 动态的学习。这种方法在不修改算法的情况下显著扩展了 Wu, Sanghavi 和 Dimakis 的优雅分析。
Nov, 2023
提出了一种基于 Angluin 等人的等效查询模型和 Littlestone 的在线学习模型的交互式学习模型的一般框架,旨在利用少数迭代来学习地面真实模型,该模型基于图表示和用户反馈,但是这不一定要求相应的权重在信息安全的环境下 100% 正确。
Oct, 2017
提出了一种新颖的、基于高斯马尔可夫随机场并利用多层结构的深度高斯马尔可夫随机场模型,该模型在大规模图数据上具有良好的可扩展性和灵活性,并利用变分推断的方法进行高效训练和预测。在多个实验数据集上,该模型都表现出了比其他贝叶斯和深度学习方法更好的性能表现。
Jun, 2022