神经玻尔兹曼机
本文介绍了两种针对结构化输出问题的改进型学习算法:一种适用于输出空间具有任意结构但可能输出配置集较小的问题,另一种适用于输出空间具有任意结构且输出空间的可变性较大的问题。这些新型算法在这两种问题类型上都表现得比对比散度更好。
Feb, 2012
本文从密度模型的角度出发,对高斯 - 二进制受限玻尔兹曼机(GRBM)进行理论分析,展示了 GRBM 的一些性能和限制,讨论了训练算法的几个关键点,并与其他改进的模型进行了比较。
Jan, 2014
本研究讨论了有关有向随机神经网络中条件概率分布的表示能力,证明了其可以用于表示条件马尔可夫随机场和带有限制支持的条件分布,研究了通用逼近器的最小尺寸、最大模型逼近误差以及可表示的条件分布集合的维数等等。我们贡献了新的工具,改进了现有有关有限支持限制玻尔兹曼机概率模型的研究结果。
Feb, 2014
本文描述了如何使用更高效的马尔可夫链蒙特卡罗算子来训练受限玻尔兹曼机 (RBM),以有效地处理自然语言处理中的高维度多项式观察值,通过在数百万个单词 n-gram 上训练 RBM,并使用所学特征来提高分块和情感分类任务的性能,从而实现了后一项的最新成果。
Feb, 2012
介绍了离散受限玻尔兹曼机,其是一种具有双分区交互的可视和隐藏离散变量的概率图模型,阐述了这些模型中的推断函数和分布式表示,以及它们在所述可视状态的任何概率分布上逼近任何给定精度的隐藏变量数量的界限,并使用代数方法和编码理论计算其维度。
Jan, 2013
本文提出了在 RBMs 的能量函数中引入另一项以显式地建模输入数据中的局部空间交互作用,以建模全局动态和本地空间交互作用的理论扩展,通过提出的学习方法,在两个计算机视觉应用程序上评估了改进的 RBM 模型:面部表情识别和人体动作识别,并在基准数据库上展示了所提出算法的有效性。
Oct, 2017
本文提出了将人工神经网络用于蒙特卡罗方法的改进,使其在统计物理问题中的混合时间得以加速,具体应用于 Falicov-Kimball 模型,并在其相变点附近展示了接受比率和自相关时间的提高。
Oct, 2016
本文从网络科学的角度,提出了一种基于小世界和无标度网络拓扑结构的约束 Restricted Boltzmann Machines 模型,它能够大大减少权重数量,提高生成能力,而不增加计算成本。
Apr, 2016
我们提出了一种新颖的 Gibbs-Langewin 采样算法和改进的对比散度算法,可用于训练 Gaussian-Bernoulli restricted Boltzmann machines (GRBMs)。实验结果表明,我们的方法可以有效地训练 GRBMs,并且与深层生成模型进行了直接比较。
Oct, 2022
本文提出了递归贝叶斯网络 (RBNs),它是概率上下文无关文法和动态贝叶斯网络的扩展和统一,将它们的优点结合在一起作为特殊情况,定义了一个关于离散或连续潜在变量的树形结构贝叶斯网络的联合分布,同时解决了潜在变量为连续的情况下的结构和连续变量推断的挑战。
Nov, 2021