universal approximation property | BriefGPT

关键词universal approximation property

搜索结果 - 11

通过权重置换训练的神经网络是通用近似器
通过证明其引导 ReLU 网络逼近一维连续函数的能力，并在各种初始化情况下实现回归任务的高效性，本文提供了对一种新颖的基于排列的训练方法的理论保证，其在不修改权重值的情况下展示出理想的分类性能。权重排列过程中的显著观察提示了排列训练可能会提
PDF5 days ago
利用 Transformer 作为具有有限规律性的微分方程求解的神经算子
神经算子学习模型被证实为部分微分方程在各种应用中的高效代理方法，本文通过建立理论基础将变压器作为算子学习模型实现通用逼近性，并应用于预测具有不同初始条件和强迫项的有限正则性动力学系统的解。
PDFa month ago
一种用于普适逼近的最简控制动态系统家族
通过证明参数矩阵、线性向量和 ReLU 激活函数这个控制组合能够统一逼近定义域在任意紧致区域的微分同胚，我们揭示了神经网络的逼近能力与控制系统之间的关联。
PDF7 months ago
深度狭窄 MLP 的最小宽度：一种微分同胚和 Whitney 嵌入定理的方法
我们提出了一个新的上界，通过最小宽度为 diffeomorphisms 和线性变换等嵌入来实现深度狭窄多层感知机的统一逼近。
PDF10 months ago
神经网络宽度的数据拓扑相关上界
本研究旨在探究深度神经网络的通用逼近性质与数据集拓扑特征之间的关系，并通过拓扑结构推导出限制网络宽度的上界。通过设计三层神经网络中的 ReLU 激活函数和最大池化操作，可以逼近一个由紧凑凸多面体包围的指示函数，同时拓展到单纯复合体，以拓扑空
PDFa year ago
ICLR神经网络通用逼近的最小宽度实现
本论文探讨神经网络的最小宽度及其在紧致域中的 UAP，证明了 L^p-UAP 和 C-UAP 共享最小宽度的通用下界，且 L^p-UAP 的临界宽度可以通过使用 Leaky-ReLU 网络达到。
PDF2 years ago
单量子比特本地量子神经网络的能力和局限性
本文提出了一个理论框架，针对由替换编码电路块和可训练电路块组成的数据重新上传量子神经网络的表达能力进行研究，并证明了单量子比特量子神经网络可以通过将模型映射到部分傅里叶级数来逼近任何一元函数，并讨论了单量子比特本地 QNN 逼近多元函数的局
PDF2 years ago
NEU：一种通用的 UAP 不变特征表征元算法
本文介绍了一种名为 Non-Euclidean Upgrading 的元程序，它通过学习特征映射来嵌入大多数模型类的全局逼近性质，并且学习得到的特征表达式总是特征空间的亚流形。
PDF6 years ago
随机配置网络：基础和算法
本文提出了一种用于神经网络的随机化方法，即随机配置网络，其采用随机分配输入权重和偏差节点的方法，以监督机制为基础，通过分析地计算输出权重，建立了三种回归问题的版本。研究结果显示，该方法具有较少人为干预的优点，可自适应随机参数设定，学习速度快
PDF7 years ago
函数学习：何时深度学习优于浅层学习
本文证明了深度（分层）网络可以近似组合函数，其准确度与浅层网络相同，但训练参数以及 VC 维度指数级地减少，并定义了一般类可扩展和平移不变算法来证明深度卷积网络的简单和自然的一组要求。
PDF8 years ago
带有无界激励函数的神经网络是一种通用的逼近器
通过 Fourier 分片定理、Radon 变换和 Parseval 关系，证明了带无界激活函数的神经网络仍然满足通用逼近性质，并且表明在反向传播后，Ridgelet 变换或 Radon 域中的反投影滤波器是神经网络学习到的内容。
PDF9 years ago