Jul, 2023

利用周边预测填充改进卷积神经网络中的翻译不变性

PDF
TL;DR本文提出了一种名为 PP-Pad 的新型填充方法，该方法可以进行每个任务的填充值的端到端训练，从而取代了零填充方法，同时还提出了一种评估模型平移不变性的新方法，在一个语义分割任务中，这种方法实现了比以往方法更高的精度和平移不变性。
发现论文，激发创造
  • 带零填充的深度卷积神经网络：特征提取与学习

    本研究通过验证零填充在特征提取和学习中的作用，以及池化在其平移不变性驱动的性质中的作用，表明具有相似自由参数的深度全连接网络可以通过零填充的 DCNNs 来表示，从而证明了零填充的 DCNNs 在特征提取方面优于 DFCNs。因此，我们推导出了具有零填充的 DCNNs 的普遍一致性，并展示了它在学习过程中的平移不变性。所有的理论结果都通过包括玩具模拟和真实数据运行的数值实验证实。

    Jul, 2023

  • 卷积填充与对抗鲁棒性的相互作用

    我们在这项工作中展示了对抗攻击经常在图像边界产生扰动异常，而图像边界正是使用 padding 的区域；因此，我们旨在分析 padding 与对抗攻击之间的相互作用，并探讨不同 padding 模式（或其缺失）对各种情境下的对抗鲁棒性的影响。

    Aug, 2023

  • 基于部分卷积的填充

    本文提出一种简单但有效的填充方案作为现有卷积神经网络的模块，我们将其称为基于部分卷积的填充，具有在卷积操作中根据填充区域和卷积滑动窗口面积的比率重新加权的功能，在 Imagenet 分类和语义分割测试中表现出比标准零填充更好的准确性。

    Nov, 2018

  • 透过图像特征的迷雾揭示位置信息模式的面纱

    本研究提出新的测量位置信息强度的度量方法，指出现有度量方法存在局限性，证明采用现有或新的页面方案，均主要是学习因素，而非其本身特征，并提供了 PPP（Padding 产生的位置信息模式）的定义和可视化方法。

    Jun, 2022

  • 卷积神经网络中的平移不变量量化

    研究卷积神经网络中实现图像识别中的平移不变性的因素，并发现训练数据增量是获得平移不变表示的最重要因素。

    Dec, 2017

  • CNN 中位置信息的深入研究：位置、填充和预测

    本论文研究了卷积神经网络（CNNs）中位置信息的编码方式和其对语义表征的影响，通过设计新颖的任务和语义目标测试终止边界对语义表征的影响，揭示零填充驱动 CNNs 在其内部表征中进行位置信息编码的新发现，并证明位置信息既可以帮助也可以阻碍性能。

    Jan, 2021

  • PadChannel: 通过显式填充编码提高 CNN 性能

    提出了一种名为 PadChannel 的新型填充方法，通过将填充状态编码为额外的输入通道，使得卷积神经网络能够轻松区分真实像素和填充像素，并在计算成本微增的情况下在多个著名卷积神经网络架构中观察到小幅度性能改进和显著的方差减小，适用于 ImageNet-1K 图像分类任务。

    Nov, 2023

  • Patch Reordering: 在卷积神经网络中实现旋转和平移不变性的新方法

    通过数据增强编码旋转或平移不变性到模型结构中，并在传入下一层之前进行补丁排名来让模型专注于学习目标物品的内容而非它们的位置，从而改善了 CNN 在 MNIST 数字识别，大规模图像识别和图像检索等基准任务的性能。

    Nov, 2019

  • 填充感知神经元

    通过激活值识别和研究静态填充卷积模型中的边界感知神经元，探索它们对模型性能的影响以及其在数据中引起的偏差。

    Sep, 2023

  • 概率像素自适应精细化网络

    通过考虑神经网络对其预测的置信度，提出了概率像素自适应卷积 (PPAC) 的模型，其通过图像向导数据进行滤波，同时将高置信度的像素传递到不可靠区域，从而达到了适用于密集预测任务的图像后处理的效果，应用于光流和语义分割中具有实用价值

    Mar, 2020