BriefGPT.xyz
Aug, 2016
深度网络与浅层网络：逼近论视角
Deep vs. shallow networks : An approximation theory perspective
HTML
PDF
Hrushikesh Mhaskar, Tomaso Poggio
TL;DR
本文回顾了最近关于层级神经网络结构的研究成果，探讨了深度卷积神经网络优于浅层神经网络在函数近似问题中的表现条件。本文提出了一个新的对于相对维度的定义，该定义可以被深层网络而非浅层网络使用以显著降低近似和学习所需的复杂度。同时，本文还宣布了关于当前神经网络中使用的非平滑激活函数- ReLU函数以及高斯网络的新结果。
Abstract
The paper briefy reviews several recent results on
hierarchical architectures
for learning from examples, that may formally explain the conditions under which
deep convolutional neural networks
perform much bette
→