ICLRFeb, 2018

神经网络中的灵敏度和泛化性：一项实证研究

PDF
TL;DR本研究通过对深度学习模型的多方面度量，特别是模型对输入扰动的敏感性度量，研究了大规模的、过度参数化的神经网络与小规模的夹杂网络的复杂度与泛化之间的紧张关系，并得出结论：训练的神经网络在其训练数据范围内更加鲁棒，这种鲁棒性与泛化能力有关联，而诸如数据扩增和修正线性单元等好的泛化因素会带来更强的鲁棒性。
neural networksgeneralizationcomplexityinput perturbationsjacobian norm
发现论文，激发创造
  • 探究过度参数化在神经网络泛化中的作用

    本研究提出了基于单元能力的复杂度度量，为两层 ReLU 网络提供了更紧密的泛化界限，这可能有助于解释神经网络过参数化的泛化改进现象。同时，我们还提出了一个匹配的 Rademacher 复杂性下限，该下限优于之前神经网络的容量下限。

    May, 2018

  • 神经网络的泛化误差的高维动态

    本文通过随机矩阵理论和线性模型中的准确解，研究了使用梯度下降训练的大型神经网络的泛化动态，发现梯度下降学习的动态自然地保护了大型网络免受过度训练和过拟合的影响，当自由参数的有效数量等于样本数量时，网络过度训练最严重，大小的适当调整可以减少网络过度训练，另外，高维域下，低泛化误差需要从小的初始权重开始。此外，本文还发现了两个新的现象：在梯度下降过程中存在一个冻结的权重子空间，而高维状态的统计特性可保护免受过度训练的影响。

    Oct, 2017

  • 深度学习模型中参数数量与泛化能力的关系及数量级的估算

    本文通过神经切向核将大型神经网络连接到核方法，探讨了初始化会导致神经网络输出函数在期望附近产生有限大小的随机波动，影响分类的广义误差。我们最终的分析表明，在计算限制条件下，使用几个中间大小的网络，略高于阈值点，对它们的输出求平均，可以获得最小的分类误差。

    Jan, 2019

  • 神经网络中的过参数化与对抗鲁棒性：综述与实证分析

    通过实证研究，我们发现过参数化神经网络相对于低参数网络在对抗性攻击方面更具鲁棒性。

    Jun, 2024

  • 重新思考泛化对于了解深度学习至关重要

    该研究通过系统实验和理论构建发现，传统方法很难解释为什么大型神经网络的泛化性能良好，即使加入正则化仍然不会改变随机标记训练数据的状态，因为只要参数数量超过数据点数量，简单的两层神经网络就能实现完美的有限样本表达能力。

    Nov, 2016

  • 深度学习中鲁棒性泛化为何困难：表现能力的视角

    本文从深度神经网络的表达能力角度出发，研究了针对现代神经网络的对抗样本问题解决方法的普适性，提出了分析鲁棒性泛化间难以弥合距离的矛盾问题的理论框架。

    May, 2022

  • 深度神经网络的敏感性分析

    本文提出了一种新的扰动流形及其关联的影响度量方法，通过该方法可以量化各种扰动对 DNN 分类器的影响，主要应用于四个模型构建任务：检测异常值、分析模型体系结构的敏感性、比较训练和测试集之间的网络敏感性以及定位易受攻击的区域。实验证明，该方法在 CIFAR10 和 MNIST 数据集上的 ResNet50 和 DenseNet121 模型中具有较好的性能。

    Jan, 2019

  • 神经网络训练中对大误差的可调灵敏度

    本研究提出了一种改进的交叉熵梯度步骤，该步骤可以用于基于梯度的任何训练方法，并通过控制训练过程对较难的训练样本的敏感度来使用可调感度以帮助神经网络学习，该方法在多个基准数据集上测试后证实了这一点。

    Nov, 2016

  • 通过利用雅可比矩阵的低秩结构实现神经网络的泛化保证

    本文探讨了神经网络架构的泛化能力，发现训练和泛化在整洁和结构化的数据集上很容易，在嘈杂和非结构化的数据集上则更难。通过使用 “信息” 空间和 “噪声” 空间，本文证明了即使是常数宽度的神经网络，对于足够好的数据集也可以证明泛化。

    Jun, 2019

  • 寻求鲁棒的泛化测量方法

    本文讨论了深度学习中的一项科学挑战，即解释归纳泛化问题，通过关注经验性评估方法，提出了将泛化度量评估纳入分布强健性框架的看法。

    Oct, 2020