本研究探讨在已训练的神经网络模型中修剪神经元的问题并提出了一种系统性的方式去除冗余的相似神经元,并且通过在 MNIST 训练网络中修剪密集连接层,达到 85% 的总参数去除率,在 AlexNet 上达到 35%去除率,并且没有明显影响其性能。
Jul, 2015
该研究提出了一种基于显著性启发的神经网络模型,可以有效地在图像中检测出包含任何感兴趣的对象的一组类不可知的边界框,而不需要针对每个实例复制输出,并在 VOC2007 和 ILSVRC2012 上获得了具有竞争力的识别性能。
Dec, 2013
本文提出了一种三阶段的模型压缩方法,即动态稀疏训练、组通道剪枝和空间关注蒸馏,可将目标检测网络的参数减少 64.7%、计算量减少 34.9%。
Jun, 2023
本研究提出了一种基于 DCP 的定位感知辅助网络,用于直接剪枝目标检测中的关键信息通道,相较于现有的技术,可以在减少 70% 的参数的同时,保持检测准确度,提高计算效率。
Nov, 2019
基于模型压缩和硬件加速,本研究通过剪枝方法对高度互联的卷积层的连接汇如 YOLOv7 中进行处理,并通过迭代敏感度分析、剪枝和模型微调,显著减少了模型大小,同时保持了可比较的模型准确性。最终将剪枝模型部署到 FPGA 和 NVIDIA Jetson Xavier AGX 上,与未剪枝的模型相比,在卷积层中实现了 2 倍的加速,并在 FPGA 上达到了每秒 14 帧的实时能力。
May, 2024
通过深度网络剪枝等方法,对基于小型 SqueezeNet、流行的 MobileNetv2 和 ResNet50 架构的网络进行压缩,以实现移动设备上的可靠且实时的人脸识别。
本文介绍了如何在最小化计算成本的同时,通过采用和组合最新技术创新来实现多类别物体检测任务的最先进准确度。设计原则是 “少通道多层”,采用了一些基本块,包括拼接 ReLU、Inception 和 HyperNet, 在 VOC2007 上达到 83.8%的 mAP,VOC2012 为 82.5%mAP(第 2 名),仅使用 Intel i7-6700K CPU 单核时,每张图像仅需 750ms,在 NVIDIA Titan X GPU 上为 46ms / 图像,其网络与 ResNet-101 相比,计算成本只需 12.3%。
Aug, 2016
文章分析了卷积神经网络在物体检测任务上的预训练方法对小规模数据集的图像分类、语义分割和物体检测等任务的影响,并得出了四个关键结论。
Apr, 2019
该论文提出了一种全新的、比其他最先进的网络轻一个数量级的网络结构,基于更少通道的深度学习原理,通过采用 C.ReLU 和 Inception 结构等技术创新,使这个深度神经网络最小化其冗余,同时在计算成本小于最近的 ResNet-101 的情况下能够高效地训练,从而在知名的目标检测基准测试上实现了 84.9% 和 84.2% 的 mAP。
Nov, 2016
本研究提出基于卷积神经网络的物体检测系统,使用基于贝叶斯优化的搜索算法和结构化 loss 进行物体定位,实验证明两种方法的结合优于先前的最先进方法。
Apr, 2015