通过样条函数和算子建立了深度网络（DNs）和逼近理论之间的严格桥梁。使用 MASO 作为大类 DN 构造一组信号依赖、类别特定的模板，与信号的内积进行比较。通过向代价函数添加简单惩罚项，可以提高分类性能并减少过度拟合。MASO 隐含地导致信号空间的样条分区直接将 DNs 与矢量量化 (VQ) 理论联系起来，为研究 DNs 如何按层次组织信号开辟了新的几何路径。

May, 2018

提出了首个并行算法，对深度网络的分区进行了精确枚举，发现若只对体积较大的区域感兴趣，则均匀采样方法效率高，但若对分区中的小区域也感兴趣，则均匀采样在输入空间维度指数成本高。与此相反，我们的方法的复杂度与输入维度和区域数量呈线性关系。

Jan, 2024

研究神经网络的深度和节点的线性区分性对于复杂计算的影响，并在对多个模型类型的分析中提出新的关于深度优势的理论结果，同时研究了高层次单元的行为。

Feb, 2014

在这项研究中，我们研究了连续分段仿射深度网络（如带有（渗漏的）ReLU 非线性的网络）训练动态的输入空间划分或线性区域，提出了一种包含了本地复杂性的新统计量，观察到在训练过程中，数据点周围的本地复杂性经历了几个阶段，与深度网络的记忆性和概括性能密切相关。

Oct, 2023

本文研究了深度神经网络在输入空间中的几何属性，通过系统实证研究发现，深度神经网络具有连通的分类区域并且其在数据点附近的决策边界在大多数方向上是平坦的，同时该文进一步证明了深度神经网络曲率决策边界的本质联系，最终提出了一种基于决策边界曲率的小型对抗样本检测方法。

May, 2017

通过局部属性的研究，探究了 DNN 的表达能力和优化技术对其决策边界的影响，并希望这一研究能够启示新型优化技术的设计和发现 DNN 的行为模式。

Jan, 2020

在本文中，我们提出使用极坐标谱来表征网络架构的复杂性，并根据序列的渐近分布对网络进行分类为低阶、稀疏或高阶。我们展示了这种分类方法在标准激活函数和 ReLU 网络的稀疏性质方面的不同特征，并通过数值模拟验证了我们的理论结果。

May, 2024

研究使用单项式激活函数的多项式神经网络 (PNNs) 的表达能力和学习过程。探讨了使用代数几何工具对某些神经流形进行研究：给出了半代数集的显式描述，并表征了其 Zariski 闭包，称之为神经多样性。研究了神经多样性的维度，并将一个代数度量，即学习度，与神经多样性相关联。维度用作网络表达能力的几何度量，学习度用作训练网络的复杂度度量，并提供了可学习函数数量的上限。这些理论结果与实验证明相伴。

Feb, 2024

本文研究深度神经网络优化问题中的高维非凸性质，通过对数据分布和模型进行分析得出深度线性网络与半修正网络拓扑结构差异明显、非线性问题基于数据分布平滑程度和模型过度参数化的相互影响，通过证明半修正单层网络的渐进连通性，以及通过分析水平面的几何特征来研究梯度下降的调节。实验结果显示，虽然吸引子很小，但这些水平面在所有的学习阶段都保持连通。

Nov, 2016

通过研究注入区域的几何结构及其与树网络功率流优化的关系，提出了一种在实践条件下通过凸壳有效解决凸化功率流问题的方法。

Apr, 2012