基于惩罚性蒙特卡罗方法的 Ising 模型稀疏估计

Dec, 2016

基于惩罚性蒙特卡罗方法的 Ising 模型稀疏估计

Sparse estimation in Ising Model via penalized Monte Carlo methods

Błażej Miasojedow, Wojciech Rejchel

TL;DR本文中，我们提出了一种 Lasso 惩罚版本的 Monte Carlo 极大似然方法，用于高维二元马尔可夫随机场的模型选择问题。在证明了算法的正确性后，我们还研究了该方法的有效性。

Abstract

We consider a problem of model selection in high-dimensional binary Markov random fields. The usefulness of the ising model in studying systems of complex interactions has been confirmed in many papers. The main

model selection binary markov random fields ising model lasso penalized monte carlo maximum likelihood method

发现论文，激发创造

通过稀疏极大似然估计进行模型选择

使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。

Jul, 2007

交互筛选：高效和样本最优学习 Ising 模型

提出了一种新的，具有物理解释的统计估计量来学习未知 Ising 模型的基础图，该估计量使用凸优化计算速度快，并且在适当的正则化下，可以以对数的速度回复基础图。

May, 2016

利用 $l_1$ 正则化逻辑回归进行高维 Ising 模型选择

本文提出了一种基于 logistic 回归的方法来估计与二元 Ising 马尔可夫随机场相关联的图，并分析了该方法在高维情况下的表现，提出了一些充分条件，使其能够同时一致估计图中每个节点的邻域。

Oct, 2010

Ising 模型中的推断

本文证明了针对一类二元数据的 Ising 自旋玻璃模型，如给定模型的单个实现，其最大伪似然估计值在某一点处是 squraat {a_N}- 一致的，推广了 Chatterjee（2007）的结果，同时在简单图的收敛序列中，证明了在高温相中不可能进行一致的测试和估计。我们还展示了我们的结果在合成和真实世界网络数据上的应用。

Jul, 2015

稀疏置换不变协方差估计

提出一种构建稀疏估计器的方法，用于高维背景下的逆协方差（浓度）矩阵，使用罚函数正态似然方法强制使用 Lasso 型惩罚，并在数据维数 $p$ 和样本量 $n$ 随着增长收敛速率之间建立 Frobenius 范数。同时对真实浓度矩阵进行稀疏度量，提出一种基于相关性的方法，在操作规范下具有更好的收敛速率，推出一种快速迭代算法用于计算估计值，利用常用的 Cholesky 分解反演，得到一种置换不变的估算法，文中将这种方法应用于癌症组织分类的基因表达数据上，并与其他估算方法进行了比较。

Jan, 2008

多元点过程的套索和概率不等式

本文提出了一种自适应的 L1 - 罚函数定量分析方法，通过基于概率的非渐进性结果和新的 Bernstein 型不等式，以估计数量过程中的未知函数参数的线性组合形式对固定字典进行了选择，检验了不同字典假设下的巨额矩阵，并通过机械活动推断问题的仿真研究与自适应 Lasso 方法进行了比较。

Aug, 2012

Ising 模型的准确拟合检验

本文利用蒙特卡罗方法构建了一种对量子 ISING 模型进行精确拟合度检验的算法，并将其应用于分析细胞膜受体的空间组织。

Oct, 2014

均场近似：信息不等式、算法和复杂度

本文提供了一种新的较优 KL 误差的均场近似上下界，并推广到高阶马尔可夫随机场。结合组合数学和优化技术，我们还研究了估计 Ising 模型及马尔可夫随机场自由能的算法问题。我们提供了多种算法，在多项式时间复杂度内误差均控制在某个界内。

Feb, 2018

Lasso 方法下的高维图表与变量筛选

该文介绍了如何使用 lasso 算法来进行高维稀疏图的协方差无关估计，实现了变量选择，并控制了图中误连接不同的连通分量的概率，最终实现了稀疏图的一致性估计。

Aug, 2006

最小极凹惩罚下的近乎无偏变量选择

我们提出了 MC+ 方法，一种快速、连续、几乎无偏和准确的高维线性回归罚项变量选择方法。该方法采用了最小化凸惩罚和惩罚线性无偏选择算法两个部分，能够在可控的阈值下选择变量并消除偏差，同时在罚项为零时提供普通最小二乘解来实现连续性。我们证明了 MC+ 方法具有选择一致性和一定的最小值收敛速率，可以适用于高维情况，且其估计值在采用 SURE 方法计算自由度和 $C_p$ 风险估计时是无偏的。

Feb, 2010