- 能量模型训练中的相变级联
我们研究了能量驱动的生成模型 Restricted Boltzmann Machine(RBM)中的特征编码过程,通过简化的体系结构和数据结构的分析研究以及对真实数据集的实际训练的数值分析,我们追踪了模型的权重矩阵通过奇异值分解的演化,揭示 - 利用矩阵乘法解决 MaxSAT 问题
我们提出了一种针对神经网络加速器(如 GPU 和 TPU)运行的不完全的最大可满足性(MaxSAT)算法,该算法通过构建具有指数数量布尔赋值的平衡分布的受限玻尔兹曼机(RBM)来解决 MaxSAT 问题,使用并行马尔可夫链中的块 Gibbs - 基于受限玻尔兹曼机的有效耦合推断
通过在受限玻尔兹曼机的能量函数和包括自旋之间高阶相互作用的有效伊辛自旋哈密顿量之间建立直接映射,我们提出了一种简单的解决方案,可以描述复杂数据集,实现学习正确的交互网络,并为其在建模有趣数据集中的应用铺平了道路。
- 长程反铁磁 Ising 链的神经网络量子态研究
我们使用变分蒙特卡罗方法,采用 Restricted Boltzmann 机器作为试探波函数的假设,研究具有代数衰减长程反铁磁相互作用的横向场 Ising 链中的量子相变。通过有限尺度扩展分析,利用序参量和第二 Rényi 熵,我们发现在小 - 快速和功能性的结构化数据生成器基于非平衡物理学
本研究提出了一种新的训练算法,利用非平衡效应来提高受限玻尔兹曼机的能力,并成功地应用于四种不同类型的数据以产生高质量的合成数据。
- 单调深度玻尔兹曼机
本研究提出了单调 Deep Boltzmann machines,架构允许全连接的权重结构的高效(近似)推理,可用于图像联合完成和分类。
- 为终身机器学习生成准确的虚拟实例
本研究旨在解决终身机器学习模型在接收新信息而不影响先前学习经验的情况下的知识整合问题,在不使用先前任务的训练示例的情况下,通过任务练习方式创建一个知识整合网络,同时使用训练后的 Restricted Boltzmann Machine 所产 - 从限制波尔兹曼机的隐藏层学习状态转移规则
本文提出了一种从高维时间序列数据中提取少数基本隐藏变量的方法,并学习这些隐藏变量之间的状态转移规则的方法,实验结果表明该方法可以从观测到的状态转移中学习这些物理系统的动态,并预测未观测到的未来状态。
- 受限玻尔兹曼机的熵、自由能和功
本文分析了受限玻尔兹曼机在统计物理上的训练过程,以小的条纹图案为例,计算了在训练的过程中信息熵、自由能和内能的变化以及可见层和隐藏层之间的互相关性增长,并使用蒙特卡洛模拟计算了能量函数的参数变化对受限玻尔兹曼机所做工的分布,并探讨了 Jar - NISQ 时代量子态的机器学习
论文综述了机器学习中生成建模技术在恢复实际、嘈杂和多量子比特量子态方面的发展,尤其是限制玻尔兹曼机器的理论,并演示了它在状态重建中的实际应用,从经典热力学分布的伊辛自旋开始,逐步移动到越来越复杂的纯态和混合量子态,通过对实验噪音中间规模量子 - QuCumber: 用神经网络进行波函数重建
本研究致力于发展一种名为 QuCumber 的机器学习算法,可以准确地重建大量量子比特的波函数,并从机器生成新数据来获得原始数据中不容易获得的物理可观测量。
- 神经网络与重整化群流的尺度不变特征提取
基于玻尔兹曼机和伊辛模型,利用模型参数流的方式,研究深度神经网络特征提取的层次性以及与统计物理中重整化群的关系。通过分析训练后的玻尔兹曼机的权重矩阵性质,解释其向临界温度 $T_c=2.27$ 流动的原因以及学习提取自旋构型特征的方式。
- NIPS使用 Frank-Wolfe 学习无限 RBMs
本文提出一种无限受限玻尔兹曼机,其最大似然估计对应于一个约束的凸优化问题,并采用 Frank-Wolfe 算法解决该问题,这提供了一种可以解释为在每次迭代中插入一个隐藏单元的稀疏解,从而优化过程类似于不断增加复杂度的有限模型序列。因此,也可 - 近临临界状态下的 Ising 模型深度学习
使用深度玻尔兹曼机、深度置信网络和深度限制玻尔兹曼网络对二维 Ising 系统进行非监督生成建模,比较与浅层架构的有限玻尔兹曼机的效果,并发现只有第一隐藏层的神经元数量对于生成能量观测量的准确度有影响,而架构的深度和模型类型对于准确度的影响 - 受限波尔兹曼机与张量网络态的等价性
将 RBM 和 TNS 相连接,我们可以构建更强大的深度学习架构,并使用 TNS 内的纠缠熵限制来量化 RBM 的复杂数据集表现能力。同时,RBM 将量子多体状态表示为少量参数,这可能允许更有效的经典模拟。
- 用受限玻尔兹曼机加速蒙特卡罗模拟
本文提出了将人工神经网络用于蒙特卡罗方法的改进,使其在统计物理问题中的混合时间得以加速,具体应用于 Falicov-Kimball 模型,并在其相变点附近展示了接受比率和自相关时间的提高。
- ICML协同过滤的神经自回归方法
本文提出了 CF-NADE 模型,基于 Restricted Boltzmann Machine 和 Neural Autoregressive Distribution Estimator,包括模型改进,参数共用,优化成本等,实验证明在三 - 无监督集成学习的深度学习方法
本文介绍了深度学习方法如何应用于众包和无监督集成学习,证明了在 Dawid 和 Skene 模型下,假定所有分类器是条件独立的,等价于具有单个隐藏节点的受限玻尔兹曼机 (RBM),提出了采用基于 RBM 的深度神经网络 (DNN) 的方法来 - 一个无监督的时空图模型方法用于分布式 CPS 中的异常检测
本文提出了一种新的基于数据驱动的系统范围异常检测框架,其基于符号动力学的概念构建了一种时空特征提取方案,用于发现和表示 CPS 子系统之间因果相互作用,结果表明,该框架可以用于捕获多种正常模式并检测若干的从低级子系统到高级子系统的故障传播路 - 分层模型作为分层模型的边缘
研究了利用较小交互的分层模型边缘表示其他分层模型的方法,并在二元变量和成对交互模型的边缘中着重研究了相互条件独立的隐藏变量。结果表明,每个隐藏变量可以自由地模拟可见变量之间的多个相互作用,可以将在比以前更少数量的隐藏变量的限制玻尔兹曼机中达