Jan, 2021

CNN 中位置信息的深入研究：位置、填充和预测

PDF
TL;DR本论文研究了卷积神经网络（CNNs）中位置信息的编码方式和其对语义表征的影响，通过设计新颖的任务和语义目标测试终止边界对语义表征的影响，揭示零填充驱动 CNNs 在其内部表征中进行位置信息编码的新发现，并证明位置信息既可以帮助也可以阻碍性能。
convolutional neural networksposition informationpaddingborder heuristicssemantic representations
发现论文，激发创造
  • 卷积神经网络编码多少位置信息？

    本文通过一系列实验发现卷积神经网络在学习卷积核的时候竟然能够隐式地编码图片中绝对位置的信息。

    Jan, 2020

  • 全局池化，不止眼见所及: CNN 中位置信息以通道方式编码

    本文挑战了将三维卷积神经网络中的空间维度通过全局池化折叠成向量会删除所有空间信息的普遍假设，并证明了基于通道维度排序编码位置信息，而语义信息大多不是。其次，我们提出了简单而有效的数据增强策略和损失函数以提高 CNN 输出的平移不变性，以及一种有效确定潜在表示中哪些通道负责编码整体位置信息或区域特定位置信息的方法。这些发现将受益于关注 CNN 特征的研究领域。

    Aug, 2021

  • 透过图像特征的迷雾揭示位置信息模式的面纱

    本研究提出新的测量位置信息强度的度量方法，指出现有度量方法存在局限性，证明采用现有或新的页面方案，均主要是学习因素，而非其本身特征，并提供了 PPP（Padding 产生的位置信息模式）的定义和可视化方法。

    Jun, 2022

  • 注意细节 - CNNs 可能产生盲点

    探讨卷积网络中图像特征层在空间上偏倚的问题，并提出了一些解决方案，以改善模型准确性。

    Oct, 2020

  • 卷积神经网络中的平移不变性：卷积层可以利用绝对空间位置

    本文挑战了现代 CNN 中卷积层具有平移不变性的普遍假设，并展示了 CNN 可以和将利用绝对空间位置来学习仅响应于特定绝对位置的滤波器，进而利用图像边界效应来达到效果。我们提供了一个简单的解决方案来消除空间位置编码，从而提高平移不变性，因此在小数据集方面提供更强的视觉归纳偏差。我们在几种体系结构和各种应用程序（例如图像分类、补丁匹配和两个视频分类数据集）中广泛展示了这些好处。

    Mar, 2020

  • 带零填充的深度卷积神经网络：特征提取与学习

    本研究通过验证零填充在特征提取和学习中的作用，以及池化在其平移不变性驱动的性质中的作用，表明具有相似自由参数的深度全连接网络可以通过零填充的 DCNNs 来表示，从而证明了零填充的 DCNNs 在特征提取方面优于 DFCNs。因此，我们推导出了具有零填充的 DCNNs 的普遍一致性，并展示了它在学习过程中的平移不变性。所有的理论结果都通过包括玩具模拟和真实数据运行的数值实验证实。

    Jul, 2023

  • 利用周边预测填充改进卷积神经网络中的翻译不变性

    本文提出了一种名为 PP-Pad 的新型填充方法，该方法可以进行每个任务的填充值的端到端训练，从而取代了零填充方法，同时还提出了一种评估模型平移不变性的新方法，在一个语义分割任务中，这种方法实现了比以往方法更高的精度和平移不变性。

    Jul, 2023

  • 卷积填充与对抗鲁棒性的相互作用

    我们在这项工作中展示了对抗攻击经常在图像边界产生扰动异常，而图像边界正是使用 padding 的区域；因此，我们旨在分析 padding 与对抗攻击之间的相互作用，并探讨不同 padding 模式（或其缺失）对各种情境下的对抗鲁棒性的影响。

    Aug, 2023

  • PIP：位置编码图像先验

    本文提出了一种基于 Fourier 特征和像素级 MLP 的图像先验模型 ——Positional Encoding Image Prior (PIP)，通过在各种图像重建任务中的应用表明它与 Deep Image Prior (DIP) 相当，并且在处理视频时表现出更好的稳定性。

    Nov, 2022

  • PadChannel: 通过显式填充编码提高 CNN 性能

    提出了一种名为 PadChannel 的新型填充方法，通过将填充状态编码为额外的输入通道，使得卷积神经网络能够轻松区分真实像素和填充像素，并在计算成本微增的情况下在多个著名卷积神经网络架构中观察到小幅度性能改进和显著的方差减小，适用于 ImageNet-1K 图像分类任务。

    Nov, 2023