shallow networks | BriefGPT

关键词shallow networks

搜索结果 - 7

一般浅层网络的近似可计算性
本文提出了一种更精确的定理版本，关于一般浅层网络的维度无关界限；应用包括函数逼近、浅层网络、度量空间以及函数扩展等问题。
PDFa year ago
可转移的深度度量学习用于聚类
提出了一种学习跨多个不同领域数据集应用的传输度量的框架，在使用基于嵌入空间的指定聚类的情况下，在少量训练集和浅层网络的情况下，我们在多个变量复杂度的数据集上实现与最新技术水平相当的结果。
PDFa year ago
高维双层神经网络中的随机梯度下降相图
本文探讨了梯度下降在高维中非凸优化领域的应用，通过对浅层网络和窄网络的研究分析了其在全局收敛和局部最小值上的不同表现，研究了随机梯度下降的高维度动态学习中学习率、时间尺度和隐藏单元数量之间的相互作用，并提供了统计物理学中基于确定性描述的 S
PDF2 years ago
神经网络中逼近、深度分离与可学习性的关联
本文主要研究深度神经网络、近似能力和可学习性之间的复杂关系，提出了必须在浅层神经网络中近似目标函数的概念，并给出了多个范例证明了深度神经网络的分离性，并结论它们即使被高效近似，也不能被高效学习。
PDF3 years ago
通用浅层神经网络的维度无关界限
本文以一种抽象的定理为基础，证明了解决函数逼近中避免维数噪声以及用于流形学习的样本外推的逼近度的两个问题。作者建立了一种浅层网络和深度网络的模型来证明这个定理，并给出了应用案例。
PDF5 years ago
ICLR深度神经网络用于函数逼近的原因？
研究了深度神经网络与浅层网络的比较，发现对于大部分分段光滑函数，相对于浅层网络，深度神经网络可以使用更少的神经元来实现相同的函数逼近程度。
PDF8 years ago
深度前馈网络的表征优势
本研究通过标记为正整数 $k$ 的一族分类问题，演示了深度网络和递归网络优于浅层网络的证明。通过使用 ReLU 非线性激活函数，仅具有输入和输出节点的深层网络可以达到零误差。
PDF9 years ago