BriefGPT.xyz
Ask
alpha
关键词
convolution filters
搜索结果 - 4
SPION: 基于卷积漫延的 Transformer 分层稀疏训练
我们提出了一种新颖的 Transformer 稀疏化方案,通过整合卷积滤波器和泛洪填充方法,高效捕捉自注意操作中的逐层稀疏模式,从而在 Transformer 的训练过程中降低计算复杂度和内存占用,实现了超过现有稀疏 Transformer
→
PDF
9 months ago
CVPR
卷积滤波器视角下的对抗性鲁棒性
在对具备鲁棒性的深度学习模型进行卷积滤波器分析的研究中,发现经过对抗训练的模型形成了多样性更大、稀疏性更小且更正交的卷积滤波器,且具有更高的分类精度,需要更深层网络结构来实现,此方法也被成功地应用于 CIFAR-10 数据集中。
PDF
2 years ago
训练卷积滤波器中模型之间分布偏移的实证研究
通过研究已训练模型中学习到的权重的变化,该论文着重研究了主要的 3x3 卷积滤波器的分布特性,在使用不同的数据集、结构和视觉任务时所发现的分布变化以及分布变化缺失的有趣现象,并进一步探讨了数据分布变化对于 CNN 模型泛化能力以及更稳健的迁
→
PDF
2 years ago
大规模图像识别的极深卷积网络
本文通过使用小的卷积滤波器的架构,对不断增加深度的网络的精度进行了全面评估,表明通过将深度推到 16 至 19 个权重层,可以显著提高以往技术水平,并在 ImageNet Challenge 2014 中获得了第一和第二名。我们还证明了该表
→
PDF
10 years ago
Prev
Next