Oct, 2016

用受限玻尔兹曼机加速蒙特卡罗模拟

PDF
TL;DR本文提出了将人工神经网络用于蒙特卡罗方法的改进，使其在统计物理问题中的混合时间得以加速，具体应用于 Falicov-Kimball 模型，并在其相变点附近展示了接受比率和自相关时间的提高。
发现论文，激发创造
  • 快速且准确地训练和抽样受限波尔兹曼机

    通过凸优化过程将数据集的主要方向整合到低秩 RBM 中，从而通过静态蒙特卡罗过程实现平衡分布的高效采样，成功训练 RBM 来捕捉之前方法失败的高度结构化数据集中的全部多样性，并提出了一种新的采样方法 - 平行轨迹调整，使得能够比之前的 MCMC 方法更快地采样训练模型的平衡分布并更好地估计对数似然。

    May, 2024

  • 受限玻尔兹曼机的熵、自由能和功

    本文分析了受限玻尔兹曼机在统计物理上的训练过程，以小的条纹图案为例，计算了在训练的过程中信息熵、自由能和内能的变化以及可见层和隐藏层之间的互相关性增长，并使用蒙特卡洛模拟计算了能量函数的参数变化对受限玻尔兹曼机所做工的分布，并探讨了 Jarzynski 等式和训练前后自由能差的路径平均指数函数之间的关系。

    Apr, 2020

  • 使用玻尔兹曼机学习热力学

    通过学习物理系统中热力学量的 Boltzmann 机器，通过自发的学习机器，我们训练了 Boltzmann 机器， 并通过其生成的自旋状态检验热力学可观测量与直接 MC 采样的差距，证明了 Boltzmann 机器能够忠实地再现物理系统的可观测量，并观察到随着系统接近临界状态需要更多的神经元以获得准确的结果。

    Jun, 2016

  • 受限玻尔兹曼机的高级平均场理论

    通过 Bethe 近似复杂统计场理论，我们基于平均场理论为 RBM 提供了一种高效的基于消息传递的方法，可以评估分区函数和梯度而无需统计采样，从而消除了对计算上昂贵的采样方法的需求。

    Feb, 2015

  • 使用词观察值训练受限玻尔兹曼机

    本文描述了如何使用更高效的马尔可夫链蒙特卡罗算子来训练受限玻尔兹曼机 (RBM)，以有效地处理自然语言处理中的高维度多项式观察值，通过在数百万个单词 n-gram 上训练 RBM，并使用所学特征来提高分块和情感分类任务的性能，从而实现了后一项的最新成果。

    Feb, 2012

  • 自回归神经网络的无偏蒙特卡罗聚类更新

    该研究提出了一种使用物理对称性和变尺度聚类更新以消除偏差且方差较低的方法来进行高维概率分布的无偏抽样，测试了其在经典自旋系统的一阶和二阶相变中的可行性。

    May, 2021

  • 从蒙特卡罗到拉斯维加斯：通过停止集提高受限玻尔兹曼机训练

    本文提出了一种基于 MCLV-K 的梯度估算器 (LVS-K) 来改进 Restricted Boltzmann Machines (RBMs) 的训练过程，与传统的 CD-K 相比 LVS-K 性能更好，表明 MCLV 在学习生成模型方面具有潜在的优势。

    Nov, 2017

  • 使用贪婪的量子搜索学习受限玻尔兹曼机

    我们提出了相应的量子算法来解决 Restricted Boltzmann Machines 结构学习问题，并证明这些算法相对于经典算法在这两类 RBMs 的结构学习中具有多项式加速。

    Sep, 2023

  • 利用神经网络泛化哈密顿蒙特卡罗

    本文介绍了一种使用深度神经网络参数化的通用方法来训练 Markov 链蒙特卡洛核，该方法收敛快、混合快，并且我们在一系列简单但具有挑战性的分布中展示了大量的实证收益，并在一个真实的任务中展示了定量和定性的增益：潜变量生成建模。同时，我们还发布了算法的开源 TensorFlow 实现。

    Nov, 2017

  • 从限制波尔兹曼机的隐藏层学习状态转移规则

    本文提出了一种从高维时间序列数据中提取少数基本隐藏变量的方法，并学习这些隐藏变量之间的状态转移规则的方法，实验结果表明该方法可以从观测到的状态转移中学习这些物理系统的动态，并预测未观测到的未来状态。

    Dec, 2022