在任意图上高效学习 Ising 模型
本文研究了从 i.i.d 样本中学习离散无向图结构的计算复杂性。首先,我们指出学习带有噪声的奇偶校验可以作为学习图模型的一个特殊情况。其次,我们提出一个有关统计算法的条件,它们无法在 $p$ 最大度数为 $d$ 的一般图模型上有效学习,因此需要限制模型类的大小。除了对图的结构性假设之外,我们还引入相关性衰减度量,研究了反铁磁模型。我们提供了一个性能介于 $O (p^2)$ 和 $O (p^{d+2})$ 之间的算法。
Dec, 2014
提出了一种新的,具有物理解释的统计估计量来学习未知 Ising 模型的基础图,该估计量使用凸优化计算速度快,并且在适当的正则化下,可以以对数的速度回复基础图。
May, 2016
从数据中有效地学习 Ising 模型的底层参数是我们重新审视的问题。我们展示了一种基于逐节点逻辑回归的简单现有方法在多种新颖环境下能成功地恢复底层模型的参数,包括从本地 Markov 链动态生成的数据、自旋玻璃的 Sherrington-Kirkpatrick 模型以及 M - 数据和对抗性 Glauber 动态的学习。这种方法在不修改算法的情况下显著扩展了 Wu, Sanghavi 和 Dimakis 的优雅分析。
Nov, 2023
提出了一种新的自然算法,用于从样本中学习一般离散图形模型(即马尔可夫随机场)的图结构,它是一种贪心的算法,并且具有较低的计算复杂度,并且通过节点度数、图大小以及因子图的环来表征其样本复杂度,在此基础上将其专门用于 Ising 模型。
Feb, 2012
本文探讨了在高维场景下,从样本中学习成对图模型的结构问题。我们首先讨论了向前向后贪心算法在一般统计模型中应用的稀疏性一致性(稀疏模式恢复)特性。然后,我们将此算法特化到通过邻域估计学习离散图模型的结构问题上。我们的结果保证了样本数 n 随着问题规模 p 的增加而缩放,并且算法仅需要具有受限强凸性条件,这通常比不可表示性假设容易得多。
Jul, 2011
本文介绍一种名为 Interaction Screening 的新方法,使用本地优化问题准确估计模型参数,这个算法在信息论上优化样本数量的条件下可以实现完美的图形结构恢复,证明了 Interaction Screening 方法是一种准确、可行和最优的通用逆向 Ising 问题解决技术。
Dec, 2016
我们研究了从独立同分布采样中学习 Ising 模型(成对二元 Markov 随机场)的结构问题。通过分析多个具体例子,我们发现当 Markov 随机场发展为远程相互关系时,具有低复杂度算法的方法的系统性失效。更具体地说,这种现象似乎与 Ising 模型的相变有关(但并不与之重合)。
Oct, 2009
该研究探讨了如何从动态过程的相关样本中重构二值图形模型,并分析了基于交互筛选目标和条件似然损失的两个估计器的样本复杂性。我们发现,对于来自远离平衡的动态过程的样本,样本复杂度与混合速度快的动态过程相比呈指数级下降。
Apr, 2021
本文提出了一种基于 logistic 回归的方法来估计与二元 Ising 马尔可夫随机场相关联的图,并分析了该方法在高维情况下的表现,提出了一些充分条件,使其能够同时一致估计图中每个节点的邻域。
Oct, 2010