Feb, 2020

RNNPool：适用于内存受限推断的高效非线性池化

PDF
TL;DR介绍了一种新型的池化算子 RNNpool—— 基于循环神经网络，可在大的图像区域上高效地聚合特征，快速下采样激活映射。在标准视觉任务中应用于 MobileNets、DenseNet 等多种体系结构，可显著降低推理的计算复杂度和峰值内存使用量，保持可比的准确性。使用 RNNpool 与标准 S3FD 体系结构构建了一种面部检测方法，在 256 KB RAM 以下的微型控制器上实现了最先进的 MAP。
convolutional neural networkscomputer visionrnnpoolresource-constrained devicesface detection
发现论文，激发创造
  • 使用 SoftPool 优化激活下采样

    提出了一种快速有效的方法，在卷积神经网络中通过指数加权降采样操作以更好地保留信息，从而提高分类准确率和动作识别性能。

    Jan, 2021

  • S3Pool: 随机空间采样池化

    本研究提出了一种具有随机空间采样的池化策略（S3Pool），其在多个流行的图像分类基准测试中表现出显著的改进。

    Nov, 2016

  • 重组网络：学习由粗到细的特征聚合

    本文介绍了一种名为 “Recombinator Networks” 的模型，该模型可以在不影响鲁棒性的前提下，通过信息重组的方式实现对精确定位的支持，相较于传统的基于求和和拼接的方法，其精度有显著提升，并将误差降低了 30％。同时作者还提出了基于卷积神经网络的去噪预测模型，进一步提升了该模型的性能。

    Nov, 2015

  • 模糊池化

    本研究使用（1 型）模糊集合方法提出了一种新的池化操作来处理卷积网络中特征不确定性，通过公开数据集的多个实验，发现其可显著提高卷积神经网络的图像分类性能，优于现有最先进的池化方法。

    Feb, 2022

  • 深金字塔残差网络

    探索使用逐渐增加特征映射维度的方式，提高深度残差神经网络的泛化能力，并提出了一种新的残差单元，增强了其分类准确性；实验表明，与原始的残差网络相比，该网络结构具有更好的泛化能力。

    Oct, 2016

  • AdaPool: 信息保留的指数自适应池化下采样

    提出了一种自适应的指数加权池化方法（adaPool），该方法在图像和视频分类以及目标检测任务中提高了细节的保留，并且比常规池化方法具有双向性，其学习到的权重也可用于上采样激活地图。

    Nov, 2021

  • 深度卷积网络中的空间金字塔池化用于视觉识别

    本研究提出了 SPP-net 结构，通过空间金字塔池化策略，消除了深度卷积神经网络所需的特定输入图像大小的限制，可生成固定长度特征表示，显著提高了基于 CNN 的图像分类和目标检测方法的准确性，ILSVRC 竞赛中名列前茅。

    Jun, 2014

  • 多级小波卷积神经网络

    本文提出了一种多级小波卷积神经网络 (MWCNN) 模型，通过将小波变换嵌入到 CNN 体系结构中，以在减少特征映射分辨率和增加感受野之间实现更好的权衡，以实现图像去噪、单图像超分辨率、JPEG 图像伪影去除和物体分类等任务的有效性。

    Jul, 2019

  • 深度 SNN 中最大池化操作的脉冲逼近

    本文介绍了两种硬件友好的方法来在深度脉冲神经网络中实现 Max-Pooling，并在 Intel 的 Loihi 神经形态硬件上执行 SNNs，证明了我们的方法的可行性。

    May, 2022

  • 用于视频快速推理的循环残留模块

    本文提出了一种名为 Recurrent Residual Module （RRM）的框架，可以使用两个连续帧的中间特征图的相似度来大大减少冗余计算，精确计算每个帧的特征图，从而加速 CNN 推断以进行视频识别，实验结果显示，与维持相似识别性能的前一方法相比，RRM 平均加速率达到 2 倍，可在许多常用 CNN 上加速达到 8-12 倍，而在某些二进制网络上加速率可以高达 500 倍

    Feb, 2018