本文提供了一种新的较优 KL 误差的均场近似上下界,并推广到高阶马尔可夫随机场。结合组合数学和优化技术,我们还研究了估计 Ising 模型及马尔可夫随机场自由能的算法问题。我们提供了多种算法,在多项式时间复杂度内误差均控制在某个界内。
Feb, 2018
我们使用变分蒙特卡罗方法,采用 Restricted Boltzmann 机器作为试探波函数的假设,研究具有代数衰减长程反铁磁相互作用的横向场 Ising 链中的量子相变。通过有限尺度扩展分析,利用序参量和第二 Rényi 熵,我们发现在小的衰减指数 α_LR 情况下,中心荷与 1/2 偏离,与短程 Ising 值非常接近的临界指数不同,支持先前提出的共形不变性破缺的情景。为了确定 Ising 普适性和共形对称性的临界点,我们对普适 Binder 比和相关函数的共形场论(CFT)描述进行了两个额外的测试。结果表明,在 α_LR <2 的情况下,两者都显示出明显偏离短程 Ising 类的现象。然而,对于 α_LR> = 2 的情况,对缩放相关函数进行仔细观察显示出从在 α_LR = 3 处验证的 CFT 的渐变变化,为临界点提供了一个大致的估计范围:2 ≤ α_LR < 3。
Aug, 2023
神经网络在绕过维度灾难的同时能够准确预测的基础是对特征学习的隐式维度缩减过程的理解,本文提出了递归特征机(RFM)作为一种能够显式地执行特征学习的算法,并且在稀疏线性回归等问题中展示了其维度缩减能力和优于标准算法的性能。
Jan, 2024
本文提出了一种基于全连接神经元的新型 MRF 模型,将深度神经网络的表达能力和 MRF 的循环依赖结构结合在了一起,通过对多个 RNN 进行逆向连接形成的前馈网络的近似表示,实现了高效的学习和在各种低级视觉任务中的卓越表现。
Sep, 2016
我们提出了一种具有消息传递机制的变分自回归体系结构,在一个退火框架下进行训练。该网络在解决几个典型的伊辛自旋哈密顿量方面表现优于现有方法,尤其是在低温下的更大自旋系统。我们的方法将无监督神经网络在解决组合优化问题方面推广到了当前的计算限制的范围内。
Apr, 2024
通过建立适当的零和游戏,采用概念上的方法来证明相互信息的下限,进而推广到具有高阶交互作用的任意马尔科夫随机场,从而获得在 n 个节点上学习具有 r 阶相互作用的有界次数图上的马尔科夫随机场的算法,样本复杂度为 log (n),时间复杂度为 n^r。
May, 2017
本研究论文提出了一种使用 Frank-Wolfe 算法来通过优化凸二次规划松弛问题的方法,此外还开发了一种分治方法来计算线性规划松弛的次梯度,以实现更好的能量最小化,与常用的均值场算法相比,本文研究表明连续松弛技术有更好的结果。
Aug, 2016
本文研究了协同过滤问题中推荐给用户的物品之间的依赖关系模型,提出了一种基于高斯马尔科夫随机场的自动归一参数化和伪似然函数的方法,可以实现计算效率和推荐准确性之间的平衡。通过几个数据集的实验证明了该方法的有效性。
Oct, 2019
本文旨在解决反 Ising 问题,介绍了几种平均场近似的公式并推导了 Bethe 近似的新解析表达式,以此来比较其在随机图和规则晶格上定义的多种模型(包括稀释铁磁体和自旋玻璃)的准确性,并提出了简易改进。但也发现了在存在外部场的情况下,基于 TAP 和 Bethe 近似的方法有基础的局限性。
Dec, 2011
我们提出了一种基本的平均场方法,用于完全不对称的动力学伊辛模型,可应用于该问题的单个实例。
Mar, 2011