Jul, 2017

ShuffleNet: 面向移动设备的高效卷积神经网络

PDF
TL;DR我们推出了一种名为 ShuffleNet 的极度计算效率的卷积神经网络体系结构，专门为计算能力非常有限（例如 10-150 MFLOPs）的移动设备设计。该体系结构利用了两个新操作，即逐点组卷积和通道混洗，以大大降低计算成本，同时保持准确性。在 ImageNet 分类和 MS COCO 对象检测方面的实验表明，ShuffleNet 的性能优于其他结构，在 40 MFLOPs 的计算预算下，Top-1 错误率（绝对 7.8％）低于近期 MobileNet 的 ImageNet 分类任务。在基于 ARM 的移动设备上，ShuffleNet 实现了与 AlexNet 相比约 13 倍的实际加速，同时保持可比的准确性。
发现论文，激发创造
  • ShuffleNet V2：高效 CNN 架构设计的实践指南

    通过在目标平台上评估直接指标，本文提出了一些实用的指导方针，给出了一个名为 ShuffleNet V2 的新型神经网络架构，并通过全面的消融实验验证了其在速度和准确性之间的平衡是最优的。

    Jul, 2018

  • MicroNet: 极低 FLOPs 图像识别

    本文介绍了 MicroNet，一种高效的卷积神经网络，利用极低的计算成本（例如，在 ImageNet 分类中为 6 MFLOPs）。这种低成本网络在边缘设备上非常受欢迎，但通常会遭受显著的性能下降。我们提出了 Micro-Factorized 卷积和 Dynamic Shift-Max 激活函数两个设计原则，为构建性能显著优于现有最佳法在低 FLOP 区间的 MicroNets 打下基础，例如，MicroNet-M1 在 ImageNet 分类中以 12 MFLOPs 为 6.1％，超过 MobileNetV3 的 11.3％。

    Nov, 2020

  • DyNet: 动态卷积加速卷积神经网络

    本文研究了如何提高卷积神经网络的效率，提出了一种基于动态卷积方法的新型卷积操作，在多种 CNN 结构上进行了测试，并表明该方法可以在减少计算开销的同时保持性能，从而达到了更高的效率。

    Apr, 2020

  • 移动设备上的量化卷积神经网络

    该研究提出了一种名为量化卷积神经网络的模型，旨在通过量化卷积层中的滤波器核和全连接层中的权重矩阵，实现计算效率的提升和存储内存开销的降低，相对于非量化模型，该模型在 ILSVRC-12 基准测试中达到 4~6 倍的加速和 15~20 倍的压缩，仅有 1% 左右的分类准确率损失，并且甚至可以在移动设备上在一秒内精准分类照片。

    Dec, 2015

  • MobileNets：面向移动视觉应用的高效卷积神经网络

    本文介绍了 MobileNets 这一基于深度可分离卷积的轻量级深度神经网络架构，提出了利用全局超参数在时延和准确性之间平衡的方法，并在图像分类等多个领域进行了广泛实验。

    Apr, 2017

  • 基于 YOLOv7 与 ShuffleNetv2、Vision Transformer 集成的轻量级目标检测研究

    本研究通过使用高级技术（如 Group Convolution、ShuffleNetV2 和 Vision Transformer），优化了 YOLOv7 算法，减小了模型的参数数量和内存使用，并简化了网络架构，从而在资源受限的设备上加强了实时物体检测的能力。实验结果表明，经过改进的 YOLO 模型表现出卓越的性能，在保持卓越的检测准确度的同时，显著提高了处理速度。

    Mar, 2024

  • FD-MobileNet：快速下采样策略优化的 MobileNet

    本文介绍了一种适用于计算资源有限的场景（例如 10 到 140 MFLOPs）的网络 FD-MobileNet，其核心设计是在 MobileNet 框架中应用了极度的下采样策略，减少了计算成本、提高了信息容量和推理速度，并通过对 ILSVRC 2012 和 PASCAL VOC 2007 两个数据集的实验验证了 FD-MobileNet 相较于 MobileNet 在同样复杂度下表现更优越的性能。

    Feb, 2018

  • CondenseNet：使用学习群卷积的高效 DenseNet

    本文介绍了一种名为 CondenseNet 的新型神经网络体系结构，其使用学习组卷积方法实现了稠密连接，移除了那些无用的连接，并使得此模型比类似 MobileNets 和 ShuffleNets 的最先进紧凑卷积网络更为高效。

    Nov, 2017

  • ShuffleSeg：实时语义分割网络

    我们提出了 ShuffleSeg，这是一种基于分组卷积和通道混洗的有效分割网络，它采用 Skip 架构作为解码方法，在速度和准确性之间达到了最佳的折中，通过利用分辨率更高的特征图进行更准确的分割，它在 CityScapes 测试集上的平均交集联合达到了 58.3％，并且在 NVIDIA Jetson TX2 上的运行帧率为 15.7，非常适合实时应用。

    Mar, 2018

  • 一种高效的语义分割解决方案：采用带孔可分离卷积的 ShuffleNet V2

    本文提出了一种在语义分割任务中具有高计算效率的方法，基于完全卷积神经网络，在同时实现高平均交并比的情况下，可以在移动设备上实时运行。

    Feb, 2019