AAAINov, 2019

Patch Reordering: 在卷积神经网络中实现旋转和平移不变性的新方法

PDF
TL;DR通过数据增强编码旋转或平移不变性到模型结构中，并在传入下一层之前进行补丁排名来让模型专注于学习目标物品的内容而非它们的位置，从而改善了 CNN 在 MNIST 数字识别，大规模图像识别和图像检索等基准任务的性能。
发现论文，激发创造
  • 用于图像分类和搜索的变换不变卷积神经网络

    该研究提出了在卷积神经网络的训练阶段中随机转换特征图以增强模型对空间变换的不变性，从而显著提高了 CNN 在图片识别等许多基准任务上的表现。

    Nov, 2019

  • PatchShuffle 正则化

    本文提出一个名为 PatchShuffle 的新的正则化方法，可以帮助卷积神经网络（CNN）模型在数据较少的情况下改进其泛化能力，同时改善其对噪声和局部变化的鲁棒性。通过在本地补丁中混洗像素，PatchShuffle 生成具有内部无序补丁的图像和特征映射，从而创建丰富的本地变化。本文实验证明，采用 PatchShuffle 可以作为各种训练正则化技术（例如权值衰减，模型集成和 Dropout）的有益补充，并提高 CNN 模型的泛化能力。

    Jul, 2017

  • 卷积神经网络中的平移不变量量化

    研究卷积神经网络中实现图像识别中的平移不变性的因素，并发现训练数据增量是获得平移不变表示的最重要因素。

    Dec, 2017

  • 重新审视数据增强对卷积神经网络旋转不变性的作用

    卷积神经网络 (CNN) 在各种计算机视觉任务中提供了最先进的性能。本文研究如何在 CNN 中最佳地包括旋转不变性以进行图像分类，并通过数据增强等方法训练网络以实现旋转不变性。

    Oct, 2023

  • 卷积神经网络中的区域旋转层

    本文提出一种可插入到既有卷积神经网络中的模块，直接将旋转不变性整合到 CNN 的特征提取层中，而不会增加模型复杂度，通过仅对立体数据进行训练，在旋转测试集上也能表现良好，这将适用于生物医学和天文学等难以获取垂直样本或目标没有方向性的领域，评估结果表明本模块能够有效提高 LeNet-5，ResNet-18 和 tiny-yolov3 的性能表现。

    Feb, 2022

  • PatchUp：一种卷积神经网络特征空间块级正则化技术

    提出了 PatchUp 技术，它是一种卷积神经网络的隐藏状态块级正则化技术，用于改善深度学习模型在训练集上的泛化能力，尤其是针对其他同类方法可能存在的流形干扰问题，并通过实验表明其效果可以超过或等于当前卷积神经网络正则化的最新成果。

    Jun, 2020

  • 深度神经网络的特征层级增强提高仿射变换鲁棒性

    本文提出了在中间神经网络层引入数据增强以改善卷积神经网络不适用于少量像素旋转或平移的问题，并证明该方法比已有的两种方法获得更好的精度和平均翻转比。

    Feb, 2022

  • PaRot: 基于特征解耦和姿态恢复的小块旋转不变网络

    本研究介绍了一种新颖的 Patch-wise Rotation-invariant 网格，通过 Feature Disentanglement 实现旋转不变性，并且 Propose 了一个 Rotation-Invariant Geometric Relation 来还原每个 Patch 的相对位姿信息，在 3D 模型分类和部分分割任务方面实现了有竞争力的结果。

    Feb, 2023

  • 谐波网络：深度平移和旋转等变性

    本研究介绍了一种基于谐波函数的网络 ——Harmonic Networks（H-Nets），H-Nets 可以实现对位移和 360 度旋转的等变性，并应用于深度学习技术及分类问题中，表现出很高的精度表现。

    Dec, 2016

  • 卷积操作中实现旋转不变性：从数据驱动到机制保证

    基于不可学习算子（梯度、排序、局部二值模式、最大值等），本研究设计了一套旋转不变卷积操作（RIConvs），与传统卷积操作具有相同数量的可学习参数和类似的计算过程，可相互替换。在不同数据集上的实验证明，RIConvs 明显提高了卷积神经网络的准确性，尤其是在训练数据有限的情况下，RIConvs 能进一步提升模型性能。

    Apr, 2024