ICLRJan, 2021

Hopfield 网络与受限玻尔兹曼机之间的映射

PDF
TL;DR本文介绍一种精确映射，将具备相关模式的 Hopfield 神经网络转换成具备高斯隐藏变量的 Restricted Boltzmann Machines，并在 MNIST 数据集上进行实验来验证该映射对 RBM 权重的有益初始化。
hopfield networksrestricted boltzmann machinesexact mappingcorrelated patternmnist dataset
发现论文，激发创造
  • 使用 RBM 神经网络精确表示多体相互作用

    本文介绍了如何利用 Restricted Boltzmann Machines 模型表示多体系统的相互作用，并且通过离散辅助场将多体接触相互作用分解成一体算子，该方法可以扩展到更复杂的理论中，并提出了该方法在量子退火应用中的一些可能的应用以及如何通过机器学习来优化 RBM 参数。

    May, 2020

  • 受限波尔兹曼机与张量网络态的等价性

    将 RBM 和 TNS 相连接，我们可以构建更强大的深度学习架构，并使用 TNS 内的纠缠熵限制来量化 RBM 的复杂数据集表现能力。同时，RBM 将量子多体状态表示为少量参数，这可能允许更有效的经典模拟。

    Jan, 2017

  • 限制玻尔兹曼机的拓扑洞察

    本文从网络科学的角度，提出了一种基于小世界和无标度网络拓扑结构的约束 Restricted Boltzmann Machines 模型，它能够大大减少权重数量，提高生成能力，而不增加计算成本。

    Apr, 2016

  • 使用贪婪的量子搜索学习受限玻尔兹曼机

    我们提出了相应的量子算法来解决 Restricted Boltzmann Machines 结构学习问题，并证明这些算法相对于经典算法在这两类 RBMs 的结构学习中具有多项式加速。

    Sep, 2023

  • 从限制波尔兹曼机的隐藏层学习状态转移规则

    本文提出了一种从高维时间序列数据中提取少数基本隐藏变量的方法，并学习这些隐藏变量之间的状态转移规则的方法，实验结果表明该方法可以从观测到的状态转移中学习这些物理系统的动态，并预测未观测到的未来状态。

    Dec, 2022

  • 离散受限玻尔兹曼机

    介绍了离散受限玻尔兹曼机，其是一种具有双分区交互的可视和隐藏离散变量的概率图模型，阐述了这些模型中的推断函数和分布式表示，以及它们在所述可视状态的任何概率分布上逼近任何给定精度的隐藏变量数量的界限，并使用代数方法和编码理论计算其维度。

    Jan, 2013

  • 带有种植模式的 Hopfield 模型：教师 - 学生自监督学习模型

    借助 Boltzmann 机的适当泛化 Hopfield 模型的结构化模式，构建了一个教师 - 学生自我监督学习问题模型，通过研究相图性质以及训练集大小，数据集噪声和推断温度对学习性能的影响，机器可以通过记忆来学习，并实现泛化学习。

    Apr, 2023

  • 深度信念网络和受限玻尔兹曼机的通用逼近结果的改进

    本文提出了一种新的算法改善了 Restricted Boltzmann Machines (RBM) 和 Deep Belief Networks (DBN) 在集合二进制向量的分布表示方面的问题，证明了一个由 Le Roux 和 Bengio 提出的猜想。

    May, 2010

  • 受限玻尔兹曼机的熵、自由能和功

    本文分析了受限玻尔兹曼机在统计物理上的训练过程，以小的条纹图案为例，计算了在训练的过程中信息熵、自由能和内能的变化以及可见层和隐藏层之间的互相关性增长，并使用蒙特卡洛模拟计算了能量函数的参数变化对受限玻尔兹曼机所做工的分布，并探讨了 Jarzynski 等式和训练前后自由能差的路径平均指数函数之间的关系。

    Apr, 2020

  • 使用词观察值训练受限玻尔兹曼机

    本文描述了如何使用更高效的马尔可夫链蒙特卡罗算子来训练受限玻尔兹曼机 (RBM)，以有效地处理自然语言处理中的高维度多项式观察值，通过在数百万个单词 n-gram 上训练 RBM，并使用所学特征来提高分块和情感分类任务的性能，从而实现了后一项的最新成果。

    Feb, 2012