May, 2018

为什么深度卷积神经网络对小图像变换的泛化性表现很差？

PDF
TL;DR本文研究了卷积神经网络在面对微小图像变换时不具有不变性及其成因。作者提出传统的卷积架构不满足传统采样定理及数据增强只适用于与训练集中典型图像相似的图像，且两种解决方案只能部分解决问题。因此，在网络保持高准确率的情况下保证不变性的问题仍未解决。
发现论文，激发创造
  • 卷积神经网络中的平移不变量量化

    研究卷积神经网络中实现图像识别中的平移不变性的因素，并发现训练数据增量是获得平移不变表示的最重要因素。

    Dec, 2017

  • 用于图像分类和搜索的变换不变卷积神经网络

    该研究提出了在卷积神经网络的训练阶段中随机转换特征图以增强模型对空间变换的不变性，从而显著提高了 CNN 在图片识别等许多基准任务上的表现。

    Nov, 2019

  • 重新审视数据增强对卷积神经网络旋转不变性的作用

    卷积神经网络 (CNN) 在各种计算机视觉任务中提供了最先进的性能。本文研究如何在 CNN 中最佳地包括旋转不变性以进行图像分类，并通过数据增强等方法训练网络以实现旋转不变性。

    Oct, 2023

  • 深度神经网络的特征层级增强提高仿射变换鲁棒性

    本文提出了在中间神经网络层引入数据增强以改善卷积神经网络不适用于少量像素旋转或平移的问题，并证明该方法比已有的两种方法获得更好的精度和平均翻转比。

    Feb, 2022

  • 翻译困境：现代神经网络在小型逼真图像变换中仍然面临困难

    通过简单的方法，我们实现了对最先进模型进行 1 像素平移的错误率降低到不到 5%，同时只有 1% 的分类准确率下降。此方法还可以轻松调整以处理循环位移，而无需任何进一步的训练。

    Apr, 2024

  • 在自然图像中建立归纳偏好：不变性源于数据变化

    研究了机器学习模型在处理未见过的样本时对输入的因素变化产生可预测响应的归纳偏差，并发现训练数据本身是形成这种不变性的主要来源。同时，针对数据的变化，研究表明标准数据增强依赖于平移和尺度的精确结合，而其使用的变换方法并不能完全解释真实数据的变化。

    Jun, 2021

  • 尺度不变卷积神经网络

    本文提出了一种尺度不变的卷积神经网络（SiCNN），采用多列结构，每一列专注于特定尺度，用尺度变换共享相同的滤波器参数，以应对尺度变化，实验结果表明 SiCNN 能够检测各种尺度的特征，并且分类结果表现出对物体尺度变化的强大鲁棒性。

    Nov, 2014

  • 卷积神经网络的强健性和可迁移性研究

    对现代深度卷积网络（CNN）未能在分布漂移下推广的问题进行了研究，并探究了预备数据量、模型规模和数据处理流程对迁移性能的影响，发现增加训练集和模型大小显著提高了分布偏移鲁棒性，同时是非常简单的预处理，如修改图像分辨率在某些情况下可以显著缓解鲁棒性问题。最后，我们提出了一个新的综合数据集 SI-Score 进行了系统的分析。

    Jul, 2020

  • 翻译不敏感 CNN

    使用高斯厄米基函数在 CNN 框架内高效逼近任意滤波器的方法，可以达到平移不变性，保持训练效率，同时实现子取样以保证平移不敏感性，为设计指导提供指导原则。

    Nov, 2019

  • 利用等变神经网络进行翻译恢复

    本文提出了一种预分类器恢复器，以恢复被平移（甚至旋转）后的输入到原始输入，该恢复器基于用于张量空间上的平移等变的充分必要条件。

    Jun, 2023