翻译不敏感 CNN

Nov, 2019

Translation Insensitive CNNs

Ganesh Sundaramoorthi, Timothy E. Wang

TL;DR使用高斯厄米基函数在 CNN 框架内高效逼近任意滤波器的方法，可以达到平移不变性，保持训练效率，同时实现子取样以保证平移不敏感性，为设计指导提供指导原则。

Abstract

We address the problem that state-of-the-art convolution neural networks (CNN) classifiers are not invariant to small shifts. The problem can be solved by the removal of sub-sampling operations such as stride and max pooling, but at a cost of severely degraded training and test efficie

convolution neural networks gaussian-hermite basis invariance translation insensitivity architecture

发现论文，激发创造

卷积神经网络中的平移不变量量化

研究卷积神经网络中实现图像识别中的平移不变性的因素，并发现训练数据增量是获得平移不变表示的最重要因素。

Dec, 2017

利用等变神经网络进行翻译恢复

本文提出了一种预分类器恢复器，以恢复被平移（甚至旋转）后的输入到原始输入，该恢复器基于用于张量空间上的平移等变的充分必要条件。

Jun, 2023

用于图像分类和搜索的变换不变卷积神经网络

该研究提出了在卷积神经网络的训练阶段中随机转换特征图以增强模型对空间变换的不变性，从而显著提高了 CNN 在图片识别等许多基准任务上的表现。

Nov, 2019

为什么深度卷积神经网络对小图像变换的泛化性表现很差？

本文研究了卷积神经网络在面对微小图像变换时不具有不变性及其成因。作者提出传统的卷积架构不满足传统采样定理及数据增强只适用于与训练集中典型图像相似的图像，且两种解决方案只能部分解决问题。因此，在网络保持高准确率的情况下保证不变性的问题仍未解决。

May, 2018

翻译困境：现代神经网络在小型逼真图像变换中仍然面临困难

通过简单的方法，我们实现了对最先进模型进行 1 像素平移的错误率降低到不到 5%，同时只有 1% 的分类准确率下降。此方法还可以轻松调整以处理循环位移，而无需任何进一步的训练。

Apr, 2024

真正平移不变卷积神经网络

本文提出了自适应多相采样（APS）的简单子采样方案，使卷积神经网络实现了 100% 的 “移位一致” 的分类性能，而且拥有训练前的完美 “移位一致性”，这是使卷积神经网络真正具有 “移位不变性” 的第一实践方法。

Nov, 2020

使用平移不变多相采样提升卷积神经网络的平移不变性

基于大规模相关性分析框架，通过研究现有的下采样算子，我们发现最大采样偏差与转移不变性呈负相关。基于这一关键洞察，我们提出了一种可学习的池化算子，称为平移不变的多相采样 (TIPS)，并对 TIPS 的中间特征映射进行了两种正则化以减小最大采样偏差，从而学习到转移不变的表示。我们的实验证明，与之前的方法相比，TIPS 在多个图像分类和语义分割基准测试中都取得了持续的性能提升，并且在对抗性和分布鲁棒性方面也有所改进。TIPS 相较于之前的方法具有最低的最大采样偏差，从而解释了我们的强实证结果。

Apr, 2024

使卷积网络再次具有平移不变性

本篇研究提出，在现代卷积网络中添加抗锯齿模块能较好地提高模型的精度，使其具有更好的普适性和鲁棒性。

Apr, 2019

卷积神经网络中的平移不变性：卷积层可以利用绝对空间位置

本文挑战了现代 CNN 中卷积层具有平移不变性的普遍假设，并展示了 CNN 可以和将利用绝对空间位置来学习仅响应于特定绝对位置的滤波器，进而利用图像边界效应来达到效果。我们提供了一个简单的解决方案来消除空间位置编码，从而提高平移不变性，因此在小数据集方面提供更强的视觉归纳偏差。我们在几种体系结构和各种应用程序（例如图像分类、补丁匹配和两个视频分类数据集）中广泛展示了这些好处。

Mar, 2020

扭曲卷积：对空间变换的高效不变性

使用常量图像变形后接简单卷积的方法可以使该架构等变于广泛的双参数空间变形，此方法在 Google Earth 数据集和 Annotated Facial Landmarks in the Wild 数据集中都呈现出良好的效果。

Sep, 2016