ICLRApr, 2021

LiftPool: 双向卷积神经网络池化

PDF
TL;DR本文提出了 LiftPool 池化方法，实现了双向池化层，包括 LiftDownPool 与 LiftUpPool。LiftDownPool 将特征图分解成多个不同频率信息的下采样子带，通过 LiftUpPool 进行精细化上采样并保留显著细节信息，本研究在图像分类和语义分割等方面达到了更好的性能，同时具有更好的健壮性。
发现论文，激发创造
  • 分层球形卷积神经网络与基于提升的自适应小波池化和反池化

    本文提出了一种新的 HS-CNN 框架，名为 LiftHS-CNN，其采用可学习的 lifting 结构来学习自适应的球面小波用于汇聚和反汇聚，以实现更高效的层次化特征学习。

    May, 2022

  • 使用 SoftPool 优化激活下采样

    提出了一种快速有效的方法，在卷积神经网络中通过指数加权降采样操作以更好地保留信息，从而提高分类准确率和动作识别性能。

    Jan, 2021

  • LIP: 局部重要性池化

    本文提出了一种基于本地重要性建模的简单，通用且有效的池化层 LIP，它能够学习自适应重要性权重，从而提高下采样过程中的判别特征，在 ImageNet 分类和 MS COCO 数据集的目标检测中都取得了很好的性能。

    Aug, 2019

  • AdaPool: 信息保留的指数自适应池化下采样

    提出了一种自适应的指数加权池化方法（adaPool），该方法在图像和视频分类以及目标检测任务中提高了细节的保留，并且比常规池化方法具有双向性，其学习到的权重也可用于上采样激活地图。

    Nov, 2021

  • RNNPool：适用于内存受限推断的高效非线性池化

    介绍了一种新型的池化算子 RNNpool—— 基于循环神经网络，可在大的图像区域上高效地聚合特征，快速下采样激活映射。在标准视觉任务中应用于 MobileNets、DenseNet 等多种体系结构，可显著降低推理的计算复杂度和峰值内存使用量，保持可比的准确性。使用 RNNpool 与标准 S3FD 体系结构构建了一种面部检测方法，在 256 KB RAM 以下的微型控制器上实现了最先进的 MAP。

    Feb, 2020

  • 卷积层下的宝藏：交叉卷积层池化用于图像分类

    本文介绍一种新技术 cross-convolutional-layer pooling，并探讨卷积层激活的图像表示方式在使用中的优点和不足，通过应用于四个流行的视觉分类任务，证明该方法具有可比较或显著更好的性能，而造成的计算成本要低得多。

    Nov, 2014

  • 深度网络中的细节保护池化

    本文介绍了一种基于最近图像降采样研究的深度学习方法，叫做细节保留池化 (DPP)，它可以放大空间变化并保留重要的结构细节，其参数可以与网络的其余部分一起学习，在几个数据集和网络上的实验证明 DPP 方法在性能上优于常规池化方法。

    Apr, 2018

  • iUNets：可学习上 / 下采样的全可逆 U-Nets

    本篇论文介绍了一种基于可逆 U-Net 结构的新型网络 iUNet，它采用了新颖的可学习可逆上下采样操作，可以在同样的 GPU 存储限制下，训练更深更大的网络，并用于建立正则化流模型。

    May, 2020

  • 频率低切池化 —— 插入即用以抵御灾难性过拟合

    本文介绍了一种去除伪影的下采样操作 ——FrequencyLowCut pooling，并通过结合 FGSM 的对抗训练在模型鲁棒性和过拟合方面取得了显著改善。

    Apr, 2022

  • 使卷积网络再次具有平移不变性

    本篇研究提出，在现代卷积网络中添加抗锯齿模块能较好地提高模型的精度，使其具有更好的普适性和鲁棒性。

    Apr, 2019