Dec, 2022

从 CNN 到平移不变双小波模型

PDF
TL;DR本文提出了一种新的抗锯齿方法，通过使用复数卷积和模运算代替实数卷积和最大池化，以提高卷积神经网络的平移不变性，同时基于双树复小波分组变换设计了一个 “双生” 结构，实现了与标准卷积神经网络类似的输出效果，提高了图像分类的预测准确性，并且保留了高频信息同时减少内存使用。
antialiasingconvolutional neural networkscomplex-valued convolutionsdual-tree complex wavelet packet transformimage classification
发现论文，激发创造
  • 卷积神经网络中最大池化特征图的平移不变性

    本文旨在提高卷积神经网络对于图像分类的数学解释性，通过利用离散 Gabor - 类卷积的属性证明特征图在满足某些特定条件下可以逼近复杂 Gabor - 类系数的模，从而具有一定的稳定性，本文通过实验验证了这一理论并与双树小波分组变换一类的离散 Gabor - 类分解进行了比较。

    Sep, 2022

  • 使卷积网络再次具有平移不变性

    本篇研究提出，在现代卷积网络中添加抗锯齿模块能较好地提高模型的精度，使其具有更好的普适性和鲁棒性。

    Apr, 2019

  • WaveCNet: 集成小波变换的卷积神经网络以抑制混叠效应，实现抗噪图像分类

    该论文提出了一种将小波变换与 CNN 融合的方法，通过 DWT/IDWT 层将特征图分成低频和高频两部分来提高 CNN 对噪声和对抗性攻击的鲁棒性，并在 COCO 检测数据集上不断提高 object detectors 性能的实验结果表明，该方法可以有效提升 CNN 的训练速度和精度。

    Jul, 2021

  • 关于复值卷积神经网络

    本文介绍了使用复数输入和权重构造卷积神经网络（CNN）的变形模型，以及提出的正则化方法解决训练 CNN 中的一些问题和困难，通过与真实 CNN 进行比较并应用于细胞检测问题进行实证验证，表明复杂模型比真实模型更不易过拟合且可检测出数据的有意义的相位结构。

    Feb, 2016

  • 基于小波的 CNN 用于噪声鲁棒性图像分类

    本文研究如何通过离散小波变换（DWT）代替传统的 max-pooling，strided-convolution 和 average-pooling 来提高卷积神经网络（CNN）的抗噪性能，并设计了 WaveCNets 来进行图像分类，实验证明 WaveCNets 相比于 VGG，ResNets 和 DenseNet 等传统版本具有更好的噪声鲁棒性和准确性。

    May, 2020

  • 多级小波卷积神经网络

    本文提出了一种多级小波卷积神经网络 (MWCNN) 模型，通过将小波变换嵌入到 CNN 体系结构中，以在减少特征映射分辨率和增加感受野之间实现更好的权衡，以实现图像去噪、单图像超分辨率、JPEG 图像伪影去除和物体分类等任务的有效性。

    Jul, 2019

  • DeepShift：面向无乘法神经网络

    提出使用卷积位移和完全连接位移加速模型部署到边缘计算平台。在使用 DeepShift 模型转换和训练的预先训练的 ResNet18，ResNet50，VGG16 和 GoogleNet 模型中，可以获得接近甚至更高的准确率，并且 GPU 内核可以减少 25% 的延迟时间，具有较好的应用前景。

    May, 2019

  • 真正平移不变卷积神经网络

    本文提出了自适应多相采样（APS）的简单子采样方案，使卷积神经网络实现了 100% 的 “移位一致” 的分类性能，而且拥有训练前的完美 “移位一致性”，这是使卷积神经网络真正具有 “移位不变性” 的第一实践方法。

    Nov, 2020

  • 图像恢复的多层小波 - CNN

    本文提出了一种新的多层小波卷积神经网络（MWCNN）模型来更好地平衡感受野大小和计算效率，通过引入小波变换来减小收缩子网络中特征映射的大小并降低通道数，再使用反向小波变换来重建高分辨率特征映射，该模型可应用于许多图像修复任务，实验结果表明其有效性。

    May, 2018

  • 广义整流小波协方差模型用于纹理合成

    该文提出了一种基于非线性小波表示的统计方法，其可以用作一层 CNN 的一种实例来提高图像纹理合成的视觉质量。该方法取代了以往经典的小波模型，并在灰度和彩色纹理上达到了与最先进模型相似的视觉效果。

    Mar, 2022