KDDAug, 2022

一种用于低分辨率图像和小物体的新卷积神经网络构建模块：不再使用步幅卷积或池化

PDF
TL;DR该研究指出，现有 CNN 结构中存在缺陷的设计，即使用了步幅卷积和 / 或池化层，导致信息丢失和功能表示效果欠佳。因此，本研究提出新的 CNN 模块 SPD-Conv，以取代现有的卷积和池化层，可应用于大多数 CNN 架构，特别是在低分辨率图像和小目标的困难任务上，我们的方法明显优于先进的深度学习模型。
convolutional neural networksspd-convobject detectionimage classificationlow-resolution images
发现论文，激发创造
  • 深度卷积网络中的空间金字塔池化用于视觉识别

    本研究提出了 SPP-net 结构，通过空间金字塔池化策略，消除了深度卷积神经网络所需的特定输入图像大小的限制，可生成固定长度特征表示，显著提高了基于 CNN 的图像分类和目标检测方法的准确性，ILSVRC 竞赛中名列前茅。

    Jun, 2014

  • SBNet: 用于快速推断的稀疏块网络

    本文介绍了一种新型的基于拼贴的稀疏卷积算法，通过利用计算掩码的稀疏结构，降低了 CNN 中高分辨率计算的复杂度，并应用于基于 LiDAR 的 3D 目标检测中，最终获得了显著的速度提升而无需牺牲准确率。

    Jan, 2018

  • 追求简单：全卷积网络

    通过重新评估小图像物体识别的状态并提出新的 CNN 网络结构，本文发现在保持精度的情况下，最大池化层可以简单地用增加步长的卷积层取代，并引入了一种新型的变体来可视化 CNN 学习到的特征。

    Dec, 2014

  • 卷积神经网络中的 DiffStride 和 Spectral Pooling 的混合

    本研究提出了一种卷积神经网络模型，通过反向传播结合频谱汇聚技术，执行学习可调步长技术的下采样，旨在保留图像中的大部分信息。与基线方法 DiffStride 相比，DiffStride 与频谱汇聚的混合方法在准确率上提高了 0.0094。

    Jan, 2024

  • 可变形卷积神经网络

    本文证明卷积神经网络的固定几何结构导致其在几何变换方面受限，从而引入了两个新模块增强 CNNs 的变换建模能力。这两个模块是可变形卷积和可变形 RoI 池化。这些新的模块可以轻松替换现有 CNNs 中的普通模块，并且可以通过标准反向传播进行端到端训练，从而产生可变形卷积网络。广泛的实验证实了这种方法在物体检测和语义分割的复杂视觉任务上的有效性。

    Mar, 2017

  • RNNPool：适用于内存受限推断的高效非线性池化

    介绍了一种新型的池化算子 RNNpool—— 基于循环神经网络，可在大的图像区域上高效地聚合特征，快速下采样激活映射。在标准视觉任务中应用于 MobileNets、DenseNet 等多种体系结构，可显著降低推理的计算复杂度和峰值内存使用量，保持可比的准确性。使用 RNNpool 与标准 S3FD 体系结构构建了一种面部检测方法，在 256 KB RAM 以下的微型控制器上实现了最先进的 MAP。

    Feb, 2020

  • S3Pool: 随机空间采样池化

    本研究提出了一种具有随机空间采样的池化策略（S3Pool），其在多个流行的图像分类基准测试中表现出显著的改进。

    Nov, 2016

  • 使用伪 3D 残差网络学习时空表示

    本文提出了一种利用 4 个 Pseudo-3D 残差块构建的 Pseudo-3D Residual Net (P3D ResNet) 架构，并将其应用于视频分类问题中，克服了 3D CNN 的计算成本及内存需求高的问题，通过将空间卷积和时间卷积组合的方式显著提高了视频图像识别和分类的准确性。

    Nov, 2017

  • 动态卷积：利用空间稀疏性加速推理

    本文提出了一种基于条件输入图像的动态卷积方法，其中通过引入一个小型门控分支来学习空间位置，以决定应该对哪些区域进行评估，通过在 CIFAR、ImageNet 和 MPII 数据集上的实验证明该方法在处理人体姿态估计等空间稀疏任务方面，相对已有方法具有更好的准确性和处理效率。

    Dec, 2019

  • 拆分为瘦：香草卷积中被忽视的冗余

    提出一种名为 SPConv 的卷积操作，以较低的计算量容忍具有相似特征图案的冗余特征，通过无需额外参数的特征融合模块实现计算加速并取得了良好的实验结果。

    Jun, 2020