covering number | BriefGPT - AI 论文速递

关键词covering number

搜索结果 - 8

缩小差距：对健壮和标准泛化的 Rademacher 复杂性
对深度神经网络进行对抗性示例训练通常导致对测试时的对抗数据泛化能力差，本论文通过 Rademacher 复杂度研究了这个问题，提出了上确界对于匹配标准设置中的最优上确界的 DNN 的对抗 Rademacher 复杂度，通过计算对抗函数类的覆
PDFa month ago
多类别 U 校准误差的最优解与进一步
在线多类别 U 校准问题：解决了 Kleinberg 等人提出的开放问题，证明理想的 U 校准误差是 Θ(√KT)，并在损失函数的自然假设下加强了结果，包括利普希茨损失函数的 Θ(log T) U 校准误差，可分解损失函数的 O (log
PDFa month ago
关于卷积神经网络学习收敛速度的研究
卷积神经网络的近似和学习能力的研究，证明了满足权重约束的卷积神经网络的新逼近界限，并给出了覆盖神经网络的新分析，从而得到了更好的收敛界限，并利用这两个结果在许多学习问题中推导了基于卷积神经网络的估计器的收敛速度，对于学习平滑函数的非参数回归
PDF3 months ago
实代数几何的覆盖数：改进的界限和应用
我们通过证明一个上界，提出了覆盖实代数变量、多项式映射和半代数集的个数方法，该边界明显改善了 Yomdin-Comte 的最佳边界，并且证明方法更加直观。作为推论，我们的结果给出了实变量的管状邻域的内部体积边界，改进了 Lotz 和 Bas
PDF8 months ago
基于范数的变压器的序列长度无关普适性界
该研究提供了一种不依赖输入序列长度的基于规范化的 Transformer 架构的广义化界限，并使用基于覆盖数的方法证明了该界限。我们使用三种新颖的覆盖数界限来上界 Transformer 的 Rademacher 复杂性，并展示了这种广义化
PDF9 months ago
ICML鲁棒性意味着数据相关的泛化界限推广
通过数据相关的广义界限，证明了健壮性意味着泛化。我们提出了几个例子，包括 Lasso 和深度学习，证明了我们的界限是明显优于以前的界限的。技术创新包括针对多项式随机变量的改进的浓缩界限。
PDF2 years ago
ResNet 为什么有效？残差可以泛化
本文研究残差连接对神经网络假设空间覆盖数以及泛化能力的影响，证明了哪怕是固定了权重矩阵和非线性函数的总数，残差连接不会增加神经网络的假设复杂性，并基于假设空间覆盖数得到了 ResNet 等采用残差连接的深度神经网络的多类泛化界。根据此泛化界
PDF5 years ago
同伦空间的度量熵
在本文中，我们给出了关于一类齐次空间的覆盖数的渐进正确估计，该齐次空间属于酉（或正交）群，与一些自然度量相关，特别是由算子范数引起的度量，这是对 Grassmann 流形覆盖数的一般化。我们还在过程中给出了 $U (n)$（或 $SO (m
PDF27 years ago