ICCVAug, 2021

全局池化，不止眼见所及: CNN 中位置信息以通道方式编码

PDF
TL;DR本文挑战了将三维卷积神经网络中的空间维度通过全局池化折叠成向量会删除所有空间信息的普遍假设，并证明了基于通道维度排序编码位置信息，而语义信息大多不是。其次，我们提出了简单而有效的数据增强策略和损失函数以提高 CNN 输出的平移不变性，以及一种有效确定潜在表示中哪些通道负责编码整体位置信息或区域特定位置信息的方法。这些发现将受益于关注 CNN 特征的研究领域。
convolutional neural networkglobal poolingpositional informationsemantic segmentationregion-specific attack
发现论文，激发创造
  • CNN 中位置信息的深入研究：位置、填充和预测

    本论文研究了卷积神经网络（CNNs）中位置信息的编码方式和其对语义表征的影响，通过设计新颖的任务和语义目标测试终止边界对语义表征的影响，揭示零填充驱动 CNNs 在其内部表征中进行位置信息编码的新发现，并证明位置信息既可以帮助也可以阻碍性能。

    Jan, 2021

  • 卷积神经网络编码多少位置信息？

    本文通过一系列实验发现卷积神经网络在学习卷积核的时候竟然能够隐式地编码图片中绝对位置的信息。

    Jan, 2020

  • 透过图像特征的迷雾揭示位置信息模式的面纱

    本研究提出新的测量位置信息强度的度量方法，指出现有度量方法存在局限性，证明采用现有或新的页面方案，均主要是学习因素，而非其本身特征，并提供了 PPP（Padding 产生的位置信息模式）的定义和可视化方法。

    Jun, 2022

  • 位置归一化

    本文提出了一种基于通道归一化的激活值归一化方法，通过提取特征在图像位置的一阶和二阶矩来捕获输入图像和抽取特征的结构信息，并将归一化常数重新注入后续层以保留或转移结构信息在生成网络中。

    Jul, 2019

  • 卷积神经网络中的平移不变性：卷积层可以利用绝对空间位置

    本文挑战了现代 CNN 中卷积层具有平移不变性的普遍假设，并展示了 CNN 可以和将利用绝对空间位置来学习仅响应于特定绝对位置的滤波器，进而利用图像边界效应来达到效果。我们提供了一个简单的解决方案来消除空间位置编码，从而提高平移不变性，因此在小数据集方面提供更强的视觉归纳偏差。我们在几种体系结构和各种应用程序（例如图像分类、补丁匹配和两个视频分类数据集）中广泛展示了这些好处。

    Mar, 2020

  • 卷积神经网络实现高效的物体定位

    通过深度卷积网络及位置细化模型使人体姿态的关节定位精度得到提升

    Nov, 2014

  • 增强型通道与空间信息的多人姿态估计

    本文研究了多人姿态估计问题，提出了两个新的模块以增强特征图的通道和空间信息，一是采用通道混洗操作的通道混洗模块，二是使用空间、通道注意力的残差增强瓶颈模块，实验结果表明我们的方法在 COCO 关键点基准上实现了最新的成果.

    May, 2019

  • 用于紧凑图像表示的对象级深度特征池化

    本文提出一种基于卷积神经网络和物件性先验知识的图像检索方法，通过对图像区域深度特征和物件性先验的结合，有效地解决了图像在几何变换和物品构成方面的不变性问题，从而实现更准确高效的图像检索。

    Apr, 2015

  • 高效移动网络设计的坐标注意力

    本文提出了一种名为坐标注意力机制的新型注意力机制，将位置信息嵌入到通道注意力中以获取空间选择性的注意力图，通过将特征图分别编码成一对有方向和位置敏感的注意力图，提高了 MobileNetV2、MobileNeXt、EfficientNet 等网络中物体检测和语义分割的性能。

    Mar, 2021

  • 全局二阶池化卷积网络

    本文针对在深度卷积网络较早的层次有效引入二阶表示进行非线性建模的问题，提出了一种新的网络模型，并利用全局二阶池化 (GSoP) 对低到高层次进行二阶表示引入，使图像信息得到全面利用，实验结果表明，在 ImageNet-1K 数据集上，该网络模型优于同类网络，具有最先进的结果。

    Nov, 2018