压缩链:组合压缩卷积神经网络的系统方法
本文提出了基于卷积神经网络的图像压缩框架,其中包括用于压缩的紧凑型 CNN 和用于重构压缩图像的重构型 CNN,开发了一种统一的端到端学习算法以有效协同两种 CNN,并与现有的图像编码标准兼容。实验结果表明,所提出的压缩框架大大优于使用现有图像编码标准的多种压缩框架。
Aug, 2017
本文提出了一种对情感分析中高效的卷积神经网络进行压缩的方法,该方法包含量化和修剪过程,并展示了将压缩后的网络映射到 FPGA 的方法及其实现结果,实验表明实现 5 位宽度即可达到与浮点数相近的精度且达到了较大的内存占用空间减少(从 85% 到 93%)。
May, 2018
本文系统、全面地回顾了基于神经网络的图像和视频压缩技术的发展现状及未来趋势。特别是,介绍了通过深度学习和 HEVC 框架实现的先进视频编码技术,并回顾了基于神经网络的端到端图像和视频编码框架,展示了他们在生成高效率信号表示结构方面的探索和未来的研究趋势。
Apr, 2019
本文介绍了一种基于剪枝策略的 CNN 结构压缩方法 CAR。CAR 通过去除对分类精度影响最小的滤波器实现了近似原始分类精度的同时,保留了原始网络中有代表性的滤波器。压缩后的网络更容易理解,因为具有更少的滤波器数目。此外,作者还提出了一种变种算法来量化每个图像类别对每个 CNN 滤波器的重要性,最和次重要的分类标签被证明是每个滤波器的有意义的解释。
May, 2017
该研究探讨了在计算机视觉领域中压缩深度网络的三种基本技术,包括知识蒸馏,修剪和量化,以及将它们串联起来的有效方法,并使用 MNIST 和 CIFAR-10 数据集对它们进行了分析。
May, 2023
本文提出了一种协同压缩方案,将通道剪枝和张量分解结合起来,通过同时学习模型的稀疏性和低秩性来压缩 CNN 模型。该方法在各个数据集和骨干架构上展示了优越的性能提升,例如在 ImageNet 2012 上,我们通过删除 48.4%的参数从 ResNet-50 模型中达到 52.9%的 FLOPs 减少,仅有 0.56%的 Top-1 准确度降低。
May, 2021
该论文介绍了一种名为 “深度压缩” 的技术,通过三阶段的网络压缩流程 —— 剪枝、量化和霍夫曼编码 —— 可以将神经网络模型的存储资源需求减小 35 到 49 倍,而同时不影响网络的准确性,该技术可以在嵌入式系统中使用,可以极大地提升模型的应用性能。
Oct, 2015
提出了一种简单而有效的方案 —— 单次整个网络压缩,以在移动设备上部署深度卷积神经网络,并通过对各种压缩卷积神经网络在智能手机上的性能进行测试,证明了所提方案的有效性,可获得显著的模型尺寸、运行时间和能量消耗的降低,同时只付出了小量精度损失。
Nov, 2015