Oct, 2017

一种基于生成式受限玻尔兹曼机的高维动作数据建模方法

PDF
TL;DR本文提出了在 RBMs 的能量函数中引入另一项以显式地建模输入数据中的局部空间交互作用，以建模全局动态和本地空间交互作用的理论扩展，通过提出的学习方法，在两个计算机视觉应用程序上评估了改进的 RBM 模型：面部表情识别和人体动作识别，并在基准数据库上展示了所提出算法的有效性。
computer visionrestricted boltzmann machinesspatio-temporal patternsfacial expression recognitionhuman action recognition
发现论文，激发创造
  • 利用高斯 - 二元受限玻尔兹曼机模拟自然图像统计

    本文从密度模型的角度出发，对高斯 - 二进制受限玻尔兹曼机（GRBM）进行理论分析，展示了 GRBM 的一些性能和限制，讨论了训练算法的几个关键点，并与其他改进的模型进行了比较。

    Jan, 2014

  • 基于受限玻尔兹曼机的有效耦合推断

    通过在受限玻尔兹曼机的能量函数和包括自旋之间高阶相互作用的有效伊辛自旋哈密顿量之间建立直接映射，我们提出了一种简单的解决方案，可以描述复杂数据集，实现学习正确的交互网络，并为其在建模有趣数据集中的应用铺平了道路。

    Sep, 2023

  • 快速且准确地训练和抽样受限波尔兹曼机

    通过凸优化过程将数据集的主要方向整合到低秩 RBM 中，从而通过静态蒙特卡罗过程实现平衡分布的高效采样，成功训练 RBM 来捕捉之前方法失败的高度结构化数据集中的全部多样性，并提出了一种新的采样方法 - 平行轨迹调整，使得能够比之前的 MCMC 方法更快地采样训练模型的平衡分布并更好地估计对数似然。

    May, 2024

  • 从限制波尔兹曼机的隐藏层学习状态转移规则

    本文提出了一种从高维时间序列数据中提取少数基本隐藏变量的方法，并学习这些隐藏变量之间的状态转移规则的方法，实验结果表明该方法可以从观测到的状态转移中学习这些物理系统的动态，并预测未观测到的未来状态。

    Dec, 2022

  • 能量模型训练中的相变级联

    我们研究了能量驱动的生成模型 Restricted Boltzmann Machine（RBM）中的特征编码过程，通过简化的体系结构和数据结构的分析研究以及对真实数据集的实际训练的数值分析，我们追踪了模型的权重矩阵通过奇异值分解的演化，揭示了与经验概率分布的主要模式的渐进学习相关的一系列相变现象。模型首先学习模式的质心，然后通过一系列相变级联解决所有模式。我们首先在一个受控的设置中从理论上描述了这个过程，使我们能够对训练动态进行理论上的研究。然后，通过对真实数据集训练 Bernoulli-Bernoulli RBM 来验证我们的理论结果。通过使用维度逐渐增加的数据集，我们展示了学习确实导致了在高维极限下的尖锐相变。此外，我们提出并测试了一个均场有限尺度缩放假设，表明第一次相变与我们从理论上研究过的相变属于同一普适类，类似于均场铁磁 - 顺磁相变。

    May, 2024

  • 限制玻尔兹曼机的拓扑洞察

    本文从网络科学的角度，提出了一种基于小世界和无标度网络拓扑结构的约束 Restricted Boltzmann Machines 模型，它能够大大减少权重数量，提高生成能力，而不增加计算成本。

    Apr, 2016

  • 探究基于能量的神经网络的生成动态

    探讨采用 Restricted Boltzmann Machines 作为深度无监督学习结构的生成神经网络的生成动力学，并通过 RBM 对手写数字数据集进行实验证明从 Chimera 状态启动自上而下的采样可以增加生成多种数字的能力，然而 RBM 的自上而下动力学受到能量函数形状的严重限制。

    May, 2023

  • 基于结构的受限玻尔兹曼机图像去噪与分类

    本文介绍的结构受限玻尔兹曼机（Structural Restricted Boltzmann Machine）模型针对图像建模的应用，通过限制隐层单元与可见层子集的连接来显著降低可训练参数数量，而不会影响性能。通过对多个图像域进行广泛实验，评估使用 MNIST 数据集的图像去噪结果和五个不同图像域的分类性能，结果表明相比于无限制连接的 RBM，该模型具有更快、更稳定的训练，并且可以获得更好的结果。

    Jun, 2023

  • 使用受限玻尔兹曼机进行图像聚类

    使用限制玻尔兹曼机 (Restricted Boltzmann Machines) 进行图像聚类任务，通过训练通用 RBM 模型和适应每个测试图像的 RBM 模型，生成嵌入向量用于图像聚类任务，并在实验结果中表明该方法优于 k-means、谱聚类和近似顺序排名算法。

    Dec, 2023

  • 使用词观察值训练受限玻尔兹曼机

    本文描述了如何使用更高效的马尔可夫链蒙特卡罗算子来训练受限玻尔兹曼机 (RBM)，以有效地处理自然语言处理中的高维度多项式观察值，通过在数百万个单词 n-gram 上训练 RBM，并使用所学特征来提高分块和情感分类任务的性能，从而实现了后一项的最新成果。

    Feb, 2012