We generalize recent theoretical work on the minimal number of layers of
narrow deep belief networks that can approximate any probability distribution
on the states of their visible units arbitrarily well. We relax the setting of
binary units (Sutskever and Hinton, 2008; Le Roux and Be
该研究表明,深窄玻尔兹曼机是可视单元活动上概率分布的普适逼近器,如果它们有足够多的隐藏层,每个层次含有与可见层相同数量的单元。该研究提供了普适逼近器所需的深度和宽度的上下界,并且解决了有关无向网络的各种直觉问题,并且特别表明,与狭窄的 S 型信念网络和受限玻尔兹曼机相比,深窄玻尔兹曼机至少与当前可用于这些模型的限制相一致。
本文研究了经典神经网络的普适逼近定理在量子设置下的拓展,通过参数化量子电路近似传统函数,并提供精确的误差界,并将结果推广到模拟经典储备神经网络的随机量子电路。结果表明,一个具有 O (ε^-2) 个权重和 O (⌈log_2 (ε^-1)⌉) 个量子比特的量子神经网络可以在近似具有可积傅里叶变换的函数时达到精度 ε>0。