Sep, 2022

卷积神经网络中最大池化特征图的平移不变性

PDF
TL;DR本文旨在提高卷积神经网络对于图像分类的数学解释性，通过利用离散 Gabor - 类卷积的属性证明特征图在满足某些特定条件下可以逼近复杂 Gabor - 类系数的模，从而具有一定的稳定性，本文通过实验验证了这一理论并与双树小波分组变换一类的离散 Gabor - 类分解进行了比较。
发现论文，激发创造
  • 从 CNN 到平移不变双小波模型

    本文提出了一种新的抗锯齿方法，通过使用复数卷积和模运算代替实数卷积和最大池化，以提高卷积神经网络的平移不变性，同时基于双树复小波分组变换设计了一个 “双生” 结构，实现了与标准卷积神经网络类似的输出效果，提高了图像分类的预测准确性，并且保留了高频信息同时减少内存使用。

    Dec, 2022

  • 使用卷积神经网络学习稳定的群不变表示

    本文研究了转化群、深度卷积网络的不变性特性及其对稳定性的影响，进一步探讨了网络架构和可训练滤波器系数等因素与不变性群的关系，提供了更加抽象、强大不变性表示的实现方式。

    Jan, 2013

  • 用于图像分类和搜索的变换不变卷积神经网络

    该研究提出了在卷积神经网络的训练阶段中随机转换特征图以增强模型对空间变换的不变性，从而显著提高了 CNN 在图片识别等许多基准任务上的表现。

    Nov, 2019

  • 卷积神经网络中的平移不变性是什么？一项可视化研究

    通过三个实验比较了百万级图像的表示方法，发现使用流行的 CNN 模型提取的特征并不具有全局不变性，并提供了一个代码库以及一个网站，可以与实验结果互动交流。

    Nov, 2020

  • 深度卷积神经网络特征提取的数学理论

    本文提出了一种基于波浪变换、线性非线性映射、平移不变性和形变稳定性的特征提取器，可以适用于不同的网络层，并且在网络深度增加时特征越来越具有平移不变性；同时，本文还建立了对带限函数、卡通函数和 Lipschitz 函数等信号类应用的变形敏感度边界。

    Dec, 2015

  • 使卷积网络再次具有平移不变性

    本篇研究提出，在现代卷积网络中添加抗锯齿模块能较好地提高模型的精度，使其具有更好的普适性和鲁棒性。

    Apr, 2019

  • 密集预测的高效不变卷积神经网络

    本文提出了基于核旋转和翻转的一组方法，以实现对卷积神经网络中的旋转和翻转不变性，结果表明，这些方法能够在合理的资源要求下实现不同的不变性。

    Nov, 2017

  • 群不变的全局池化

    本文介绍一种不变汇聚层 (GIGP)，它是一种满足足够特征表达的汇聚层，可以表示一大类不变函数，该方法是基于组轨道感知的汇聚过程，针对旋转 MNIST 和 QM9 等数据集，取得了良好的结果。

    May, 2023

  • 翻译不敏感 CNN

    使用高斯厄米基函数在 CNN 框架内高效逼近任意滤波器的方法，可以达到平移不变性，保持训练效率，同时实现子取样以保证平移不敏感性，为设计指导提供指导原则。

    Nov, 2019

  • 真正平移不变卷积神经网络

    本文提出了自适应多相采样（APS）的简单子采样方案，使卷积神经网络实现了 100% 的 “移位一致” 的分类性能，而且拥有训练前的完美 “移位一致性”，这是使卷积神经网络真正具有 “移位不变性” 的第一实践方法。

    Nov, 2020