deep relu neural networks | BriefGPT

关键词deep relu neural networks

搜索结果 - 5

ReLU 网络的三种量化模式
我们通过导出上下界的极小极大逼近误差，确定了基于有限精度权重的深度 ReLU 神经网络逼近 Lipschitz 函数的三种情况：欠量化、过量化和适当量化。乍一看，深度网络在逼近 Lipschitz 函数时表现出内在的记忆有效性，与浅层网络相
PDF2 months ago
利用深层 ReLU 网络对高斯混合模型生成的数据进行分类
该研究使用深度 ReLU 神经网络对由 Gaussian Mixture Models (GMMs) 在 $R^d$ 下生成的无界数据进行二元分类，并首次获得了无需限制模型参数的分类的非渐进上界和收敛速度的超额风险 (超额误分类误差)。所得
PDFa year ago
IJCAI跳连接是否可证明改善神经网络损失函数的梯度图景？
本文通过理论证明，展示了深度学习中残差网络加入跳跃连接可以控制子级集的连接性，且在二层 ReLU 网络的全局最小值以下的任何局部最小值将是非常 “浅” 的，其 “深度” 最多为 O (m^[（η-1）/n])，从而解释了跳跃连接在深度学习中
PDF4 years ago
在 $W^{s,p}$ 范数下使用深度 ReLU 神经网络进行逼近的误差界
通过 ReLU 神经网络的微积分构建人工神经网络，我们分析了针对弱 Sobolev 范数的 Sobolev 正则函数的逼近速率。其次，我们为 Sobolev 正则函数的类建立了对于 ReLU 神经网络的逼近下界，并将结果拓展到应用于偏微分方
PDF5 years ago
非常深的 ReLU 网络对连续函数的最佳逼近
研究了基于有限维立方体上通用的深度 ReLU 神经网络对于一般连续函数的逼近及其与函数连续性和网络权重总数的逼近速率关系，并确立了可行逼近速率的完整相图，包括两个不同的相位。
PDF6 years ago