cnn compression | BriefGPT - AI 论文速递

关键词cnn compression

搜索结果 - 5

卷积神经网络参数的动态等级剪枝压缩
通过动态参数排除，我们提出了一种用于卷积神经网络压缩的高效训练方法，使用奇异值分解（SVD）对低秩卷积滤波器和密集权重矩阵进行建模，并通过端到端的反向传播训练 SVD 因子。我们的方法在各种现代卷积神经网络和计算机视觉数据集上进行评估，并展
PDF6 months ago
ICMLCOMCAT：注重效率的基于注意力机制的视觉模型压缩和定制化
本文提出了一种高效的 ViT 压缩解决方案，该方法基于多头注意力层的新见解开发，可用于获得紧凑的基于注意力的视觉模型，并在图像分类任务中取得比最先进的剪枝方法更高的准确性。
PDFa year ago
通过结构稀疏正则化滤波器剪枝实现紧凑型 ConvNets
本文提出了一种名为结构化稀疏正则化（SSR）的滤波器剪枝方案，它通过两种不同的正则化方法来适应性地裁剪卷积神经网络（CNN）的滤波器，从而提高计算速度和降低内存开销，并通过实验验证了其优异性能。
PDF5 years ago
利用内核稀疏性和熵进行可解释的 CNN 压缩
本文研究了卷积神经网络（CNN）压缩问题并提出了基于内在结构的新颖解释方法，借助该方法提出了核稀疏和熵（KSE）指标以定量化特征图的重要性，进而指导模型压缩，并开展了基于 KSE 指标的核聚类以实现高精度 CNN 压缩，同时具有高效率和优越
PDF6 years ago
NIPS通过增量规则化进行高效卷积神经网络的结构化剪枝
提出了一种逐步分配不同正则化因子的新型正则化剪枝方法（称为 IncReg），可在不影响 CNN 性能的情况下消除冗余参数，有效性通过与最先进的方法相比较后在流行的 CNN 上得到证明。
PDF6 years ago