本文研究了机器学习模型分析中的关键问题，即如何确定适当的函数空间和模型的范数，针对两种典型的神经网络模型（即双层网络和残差神经网络），提出了 Barron 空间和流引导函数空间，并证明了这些空间下的函数具有最优的直接和反向逼近定理，同时表明这些范数下的有界集的 Rademacher 复杂度具有最优的上界。

Jun, 2019

通过研究神经网络所定义的函数空间，我们展示了深度神经网络定义合适的再生核 Banach 空间，并且通过应用再生核 Banach 空间的理论和变分结果，得到了支持常用有限网络结构的再现定理，为更实际可行的神经网络架构提供了一步。

Mar, 2024

本文研究深度学习理论中关于高维度下两层神经网络逼近和泛化特性的问题，引入 Barron 空间和谱 Barron 空间来探究函数的光滑度，建立了这两种空间之间的连续嵌入关系，提供了实例证明下界是紧的。

May, 2023

利用路径范数和巴伦范数建立了适合于过参数化的两层神经网络的函数空间，并证明了度量熵和一般化界限方面的改进结果。

Apr, 2024

使用再生核 Hilbert 空间的机器，描述卷积网络的函数空间和光滑性，研究了卷积网络的函数分解和统计界限，并突出显示了逼近误差和估计误差之间的有趣权衡。

Mar, 2020

本文介绍了一种通过使用（产品）恒定曲率空间的图神经网络的数学基础来建模非欧几里德几何的方法，并利用类欧几里得的重心坐标来扩展了图卷积网络，实现了对特定真实世界数据特性（例如无标度、分层或循环）的归纳偏差，经实验证明，在符号数据的节点分类和畸变最小化任务中，我们的方法比欧几里得图卷积网络表现出更好的性能。

Nov, 2019

本文提出了适用于 ReLU 神经网络的 Banach 空间，其中包含了所有有限全连接 L 层网络及其 L^2 - 极限对象，具有低的 Rademacher 复杂性和良好的泛化特性，函数可以通过多层神经网络进行近似，收敛速率与维度无关。

Jul, 2020

浅层神经网络（SNNs）的逼近能力是理解深度神经网络（DNNs）性质的重要部分。本论文将谱巴伦空间的概念扩展到各向异性加权傅立叶 - 勒贝格空间，以便解决部分微分方程解的近似问题，并在 Bochner-Sobolev 范数中建立了逼近率的界。

Dec, 2023

通过 Barron 定理，我们证明了一组满足某些 Fourier 条件的函数的组合可以通过一个多达 $n+1$ 层的神经网络来逼近，为深度神经网络的表达能力提供了解释。英文原文主要探讨了神经网络的一些基本性质以及其在生成模型领域的应用，建议阅读原文以获取更多细节。

Feb, 2017

该论文介绍了一种用于深度学习的假设空间，利用深度神经网络（DNNs），通过将 DNN 视为两个变量的函数，即物理变量和参数变量，并考虑 DNN 的原始集合，这些集合位于由 DNN 的深度和宽度确定的权重矩阵和偏差的集合，然后通过在弱 * 拓扑中完成原始 DNN 集合的线性张量构建物理变量的函数的 Banach 空间，我们证明了所构建的 Banach 空间是一个再生内核 Banach 空间（RKBS），并构建了其再生内核。我们通过建立学习模型的 representer 定理，研究了结果 RKBS 中的正则化学习和最小插值问题，representer 定理表明这些学习模型的解可以表示为给定数据和再生内核确定的有限数量的内核会话的线性组合。

Mar, 2024