BriefGPT.xyz
Feb, 2015
无限受限玻尔兹曼机
An Infinite Restricted Boltzmann Machine
HTML
PDF
Marc-Alexandre Côté, Hugo Larochelle
TL;DR
本文提出了一种对受限玻尔兹曼机的数学构造，它不需要指定隐藏单元的数量，通过将RBM扩展为对其隐藏单元进行排序的灵敏性，再通过精心选择的能量函数的定义，我们表明，无限多的隐藏单元的极限是有定义的，并且该算法在学习过程中可以自然和自适应地添加训练的隐藏单元。我们在实践中研究了这种无限RBM的行为，并表明其性能与RBM竞争性一致，同时不需要调整隐藏层大小。
Abstract
We present a mathematical construction for the
restricted boltzmann machine
(RBM) in which the hidden layer size is adaptive and can grow during training. This is obtained by first extending the RBM to be sensitive to the ordering of its
→