本文分析了受限玻尔兹曼机在统计物理上的训练过程,以小的条纹图案为例,计算了在训练的过程中信息熵、自由能和内能的变化以及可见层和隐藏层之间的互相关性增长,并使用蒙特卡洛模拟计算了能量函数的参数变化对受限玻尔兹曼机所做工的分布,并探讨了 Jarzynski 等式和训练前后自由能差的路径平均指数函数之间的关系。
Apr, 2020
本文提出了将人工神经网络用于蒙特卡罗方法的改进,使其在统计物理问题中的混合时间得以加速,具体应用于 Falicov-Kimball 模型,并在其相变点附近展示了接受比率和自相关时间的提高。
Oct, 2016
利用概率计算机(p-computer)和意味场理论(Mean-Field Theory)辅助学习算法,该研究提出了用于训练难以处理的波尔兹曼机(Boltzmann Machines)的方法以及在可扩展的伊辛机器(Ising machines)中的应用。
Jan, 2024
通过凸优化过程将数据集的主要方向整合到低秩 RBM 中,从而通过静态蒙特卡罗过程实现平衡分布的高效采样,成功训练 RBM 来捕捉之前方法失败的高度结构化数据集中的全部多样性,并提出了一种新的采样方法 - 平行轨迹调整,使得能够比之前的 MCMC 方法更快地采样训练模型的平衡分布并更好地估计对数似然。
May, 2024
提出了一种基于松弛的近似推断算法,用于在二元成对马尔可夫随机场中采样接近最大化后验的配置,应用于多个限制波尔兹曼机中的 MAP 推断任务,并使用底层采样器估算了限制波尔兹曼机的对数划分函数,并与其他基于采样的方法进行了比较。
Dec, 2013
将 RBM 和 TNS 相连接,我们可以构建更强大的深度学习架构,并使用 TNS 内的纠缠熵限制来量化 RBM 的复杂数据集表现能力。同时,RBM 将量子多体状态表示为少量参数,这可能允许更有效的经典模拟。
Jan, 2017
本文从代数统计学和热带几何的角度研究了基于完全二分图的 restricted Boltzmann machine 模型及其可识别性和维数,得出了该模型的计算和解码方法和与线性门限函数的联系。
Aug, 2009
本文基于统计力学的思想,发展了一种适用于 Sigmoid 信念网络的均场理论,能够对真实的概率分布进行可追溯的逼近,并提供证据可能性的下限。我们展示了该框架在统计模式识别领域中的实用性,特别是在手写数字分类的基准问题上。
Mar, 1996
通过学习物理系统中热力学量的 Boltzmann 机器,通过自发的学习机器,我们训练了 Boltzmann 机器, 并通过其生成的自旋状态检验热力学可观测量与直接 MC 采样的差距,证明了 Boltzmann 机器能够忠实地再现物理系统的可观测量,并观察到随着系统接近临界状态需要更多的神经元以获得准确的结果。
Jun, 2016
本文从密度模型的角度出发,对高斯 - 二进制受限玻尔兹曼机(GRBM)进行理论分析,展示了 GRBM 的一些性能和限制,讨论了训练算法的几个关键点,并与其他改进的模型进行了比较。
Jan, 2014