ICMLMay, 2023
Leaky-ReLU 神经网络均匀全局逼近的最小宽度
Minimum Width of Leaky-ReLU Neural Networks for Uniform Universal Approximation
Li'ang Li, Yifei Duan, Guanghua Ji, Yongqiang Cai
TL;DR本文研究神经网络的通用逼近性质,发现当网络的深度无限大时,其宽度需要不小于临界宽度以实现通用逼近性质;同时,我们提出了一种新颖的提升 - 流 - 离散化方法,探讨了通用逼近性质与拓扑理论之间的深层联系。