Feb, 2020

通过低秩局部连接重新审视空间不变性

TL;DR为了测试假设认为部分放松空间不变性能够提供一个更好的归纳偏置,本文设计了一种方法来以可控的方式放松神经网络层的空间不变性。实验中发现,相比于卷积层和局部连接层,放松空间不变性能够在 MNIST,CIFAR-10 和 CelebA 数据集上改善分类精度,因此暗示空间不变性可能是一种过度限制的先验。