May, 2024
ReLU网络在低正则函数空间中的逼近误差和复杂度界
Approximation Error and Complexity Bounds for ReLU Networks on
Low-Regular Function Spaces
TL;DR通过ReLU神经网络，我们考虑了一类具有较小正则性假设的有界函数的逼近问题。我们展示了逼近误差可以由目标函数的均匀范数和网络宽度与深度的乘积的倒数来上界。我们从傅里叶特征残差网络中继承了这个逼近误差界，傅里叶特征残差网络是一种使用复指数激活函数的神经网络。我们的证明是具有建设性的，并通过对傅里叶特征残差网络逼近ReLU网络的复杂性分析进行。