CVPRMar, 2020

MUXConv：卷积神经网络中的信息复用

PDF
TL;DR提出一种名为 MUXConv 的新型卷积神经网络层，旨在提高网络中空间和通道信息的流动以提高精度，与此同时保持计算效率；通过将其集成于一个高效的多目标进化算法中搜索最优模型超参数来证明 MUXConv 的有效性。在 ImageNet 上，MUXNet 几乎与 MobileNetV3 相当，但更加紧凑，且在人物检测和转移学习等情况下表现良好。
convolutional neural networkmuxconvmodel expressivitycomputational efficiencymulti-objective evolutionary algorithm
发现论文，激发创造
  • MobileNets：面向移动视觉应用的高效卷积神经网络

    本文介绍了 MobileNets 这一基于深度可分离卷积的轻量级深度神经网络架构，提出了利用全局超参数在时延和准确性之间平衡的方法，并在图像分类等多个领域进行了广泛实验。

    Apr, 2017

  • MixConv: 混合深度可分离卷积核

    本文系统地研究了不同核大小的影响，提出了一种新的混合深度卷积（MixConv），将多个核大小自然混合在单个卷积中，为现有的 MobileNets 在 ImageNet 分类和 COCO 目标检测中提高了准确性和效率。

    Jul, 2019

  • 基于通道卷积的紧凑高效卷积神经网络

    本文介绍了使用通道卷积压缩深度模型的方法，这种方法在 CNN 中替换特征图之间的稠密连接为稀疏连接，从而构建轻量级 CNN。ChannelNets 使用三种通道卷积的实例，并通过对 ImageNet 数据集进行实验来证明了其在参数和计算成本上的显著性降低，且不影响准确性。

    Sep, 2018

  • DataMUX: 神经网络数据复用

    本文介绍了 DataMUX 技术，通过多路复用层和解复用层，深度神经网络可同时处理多个输入，减少内存需求，具有较高吞吐量，可适用于不同的神经网络结构和任务。

    Feb, 2022

  • ConvMLP: 视觉 Hierarchical Convolutional MLPs

    提出了层次化的卷积 MLP，称其为 ConvMLP，可用于视觉识别、物体检测和语义分割等任务，与 MLP-Mixer-B/16 相比，ConvMLP-S 使用了更少的参数，且在 ImageNet-1k 数据集上具有较高的准确性。

    Sep, 2021

  • 卷积神经网络的效率研究

    通过优化卷积神经网络架构和使用融合块核心技术，实现了计算效率和准确性的提升。

    Apr, 2024

  • 高效多阶门控聚合网络

    本文提出了一种新型的纯 ConvNet 架构，即 MogaNet，该架构通过游戏论反映了不同尺度的情境下变量之间的相互作用效应，采用深度卷积优化了空间和通道空间的中阶信息，从而在 ImageNet 等多种典型视觉基准上取得了与最先进模型相当的效果，并以更高的效率使用参数。

    Nov, 2022

  • ConcatPlexer: 加速 ViTs 的附加 Dim1 批处理

    通过引入一种新的方法，即 DataMUX，本研究在视觉识别方面提出了一种名为 ConcatPlexer 的模型，成功地在推理速度和准确性之间找到了一个平衡点。该模型在 ImageNet1K 和 CIFAR100 数据集上训练，与 ViT-B/16 相比，GFLOPs 降低了 23.5%，验证准确率分别为 69.5% 和 83.4%。

    Aug, 2023

  • DyNet: 动态卷积加速卷积神经网络

    本文研究了如何提高卷积神经网络的效率，提出了一种基于动态卷积方法的新型卷积操作，在多种 CNN 结构上进行了测试，并表明该方法可以在减少计算开销的同时保持性能，从而达到了更高的效率。

    Apr, 2020

  • Condensation-Net: 交叉通道池化层和虚拟特征图的内存高效网络结构

    本文介绍了如何通过交叉通道池化技术减少轻量级卷积神经网络的计算复杂度，提高对象检测的准确性，并采用 Condensation-Net 算法，实现在有限的硬件资源平台上的图像识别任务。

    Apr, 2021