卷积神经网络作为视觉系统模型：过去、现在和未来
本文通过严格的评估探索了不同的深度学习架构，比较它们在公共领域的性能，并识别和披露了重要的实现细节，同时指出了CNN基础表示的几个有用属性，包括输出层维度可以显著降低而不会对性能产生不利影响，以及深浅层方法可以成功共享的方面。
May, 2014
该研究论文探讨了计算机视觉问题中使用深度学习技术的发展趋势，着重介绍了卷积神经网络（CNNs）及其应用，帮助初学者了解何种深度网络适用于计算机视觉问题。
Jan, 2016
研究表明，在计算模型的视觉皮层中开发基于Volterra核的二阶卷积方法，可以增加卷积层的表达能力，在CIFAR-10和CIFAR-100数据集上，使用线性和非线性滤波器相结合的卷积网络可以超越使用相同体系结构的标准线性滤波器的网络的性能，取得与最先进水平相当的结果。
Aug, 2017
本文综述了卷积神经网络的历史，概述了卷积神经网络的结构，介绍了一些基础和高级模型，并通过实验分析总结了一些适用函数的经验法则。此外，本文还涵盖了一维、二维和多维卷积的应用，并讨论了卷积神经网络面临的一些问题和未来的方向。
Apr, 2020
本文提出一种新的深度神经网络操作Atomic Involution，其将传统卷积的空间不可知和通道特异性原则进行了倒置，可作为构建新一代神经网络的基础砖块并提高了卷积基线的性能。
Mar, 2021
比较了卷积神经网络和注意力网络的性能差异，使用新的指标展示了注意力网络的错误更贴近于人类，这些结果对于构建更人类化的视觉模型以及理解视觉对象识别在人类中的意义具有意义。
May, 2021
本文研究的是卷积神经网络的权重分布偏移对于预训练模型的稳健性的影响，提出了一个包含超过14亿卷积滤波器的数据集，并通过分析数据集展示了现有预训练模型的一些局限性。
Mar, 2022
通过结合生物神经元原理，使用基于神经科学的计算模型来增强训练效率和提高准确性，以推动组合感受野模型作为卷积神经网络的基础层，从而在CIFAR-10、CIFAR-100和ImageNet-100数据集上实现性能显著提升（平均提升5%-10%）
Nov, 2023
最近在深度可分离卷积神经网络（DS-CNNs）方面的进展已经引发了新的架构，通过相当大的可扩展性和准确性优势，超越了经典CNNs的性能。本文揭示了DS-CNN架构的另一个引人注目的特性：它们训练后的深度卷积核在所有层中出现了明显可辨和可解释的模式。通过对数百万个训练滤波器的广泛分析，我们使用自编码器进行无监督聚类，对这些滤波器进行了分类。令人惊讶的是，这些模式汇聚成了几个主要簇，每个簇都类似于高斯差分函数（DoG）及其一阶和二阶导数。值得注意的是，我们能够将来自最先进的ConvNextV2和ConvNeXt模型的滤波器分别分类为95％和90％以上。这一发现不仅仅是技术上的奇特之处；它回应了神经科学家长期以来对哺乳动物视觉系统的基础模型的提议。因此，我们的结果加深了对训练后DS-CNN的出现属性的理解，并在人工和生物视觉处理系统之间提供了一个桥梁。更广泛地说，它们为未来更具可解释性和生物灵感的神经网络设计铺平了道路。
Jan, 2024