神经网络规范化容量控制
通过生成一个确保更稳健的神经网络的近似方法，来解决神经网络的准确性和稳健性之间的权衡关系。该方法是完全凸的，并将其作为半正定规划提出。将其应用于稳健化模型预测控制以验证结果，旨在介绍一种在神经网络准确性和稳健性之间权衡的方法。
May, 2024
从不变性观点研究深度神经网络的几何和容量度量之间的关系，引入了具有期望不变性的 Fisher-Rao 范数作为新的容量概念，并发现了其分析特征和规范比较不等式，证明了其作为多种基于范数的复杂度度量的伞兵角色，讨论了引入新的度量方式对泛化误差的影响，使用 CIFAR-10 数据集的大量数值实验支持了理论分析的发现，研究的分析基于多层整流器网络局部导数的关键结构引理。
Nov, 2017
本文介绍使用凸神经网络实现模型精确度和控制可行性之间的平衡，通过设计凸性的循环神经网络来捕获动态系统的时态行为，并且可以通过解决凸问题来实现最优控制器。实验结果表明，该方法在控制应用中具有良好的潜力。
May, 2018
本文研究基于凸性的神经网络架构和其对泛化能力和过度拟合的影响，限制权重为非负并使用非递减凸激活函数可以让神经网络自我正则化，克服过度拟合问题，提高性能在图像分类方面的实验表明了这种方法的有效性。
Jun, 2020
通过将人工神经网络用于构建通用非线性控制策略并结合凸优化投影层，本论文提出了一种能在保持鲁棒性的同时提高控制系统的平均性能的技术，同时在非鲁棒的深度强化学习（deep RL）方法的最坏情况稳定性方面也有所提高。
Nov, 2020
该研究利用基于规范的容量控制指标和基于幂律的重尾自正则化理论的度量方法对数百个公开可用的预训练模型进行了详细的元分析，发现基于幂律的度量方法可以更好地区分预训练模型的良好培训和质量低劣的模型。
Feb, 2020
利用 PAC-Bayes 分析，我们提出了一种将前馈神经网络的谱范数和权重的 Frobenius 范数乘积作为度量的泛化界限。
Jul, 2017
本文提出代数拓扑作为数据复杂性量度，并通过实证分析展示了神经网络的拓扑容量在不同数据复杂度下都呈现相变现象，从而将现有理论和完全连接的神经网络架构的选择联系起来。
Feb, 2018
研究深度网络通用性的驱动因素，在考虑到规范基础控制、锐度和鲁棒性等因素后，发现尺度归一化对于通用性至关重要，并建立锐度与 PAC-Bayes 理论之间的联系，进一步探究这些措施如何解释已观察到的现象。
Jun, 2017