卷积神经网络（CNN）在面对声音识别、自然语言处理或计算机视觉等具有挑战性的任务时被广泛使用。本文提出了一种新颖的 CNN 优化和构建方法，基于剪枝和知识蒸馏，旨在确定卷积层的重要性，以减少计算要求，并在资源受限设备上部署。经过彻底的实证研究，包括最佳数据集（CIFAR-10、CIFAR-100 和 Imagenet）和 CNN 架构（VGG-16、ResNet-50、DenseNet-40 和 MobileNet），我们评估了该提议，并将准确度损失和剩余参数比率作为客观指标来比较 OCNNA 与其他最先进的方法的性能。与其他 20 多种卷积神经网络简化算法相比，我们的方法取得了出色的结果。因此，OCNNA 是一种竞争性的 CNN 构建方法，可以简化神经网络部署到物联网或资源有限设备的过程。

Dec, 2023

本研究提出了一种有利于评估不同卷积神经网络体系结构的系统性语言，该语言能够在训练前进行比较，本研究使用该语言在两个具体的基于计算机视觉的物理问题上，解决了事件顶点查找和强子多重性分类问题，同时提取了优化网络架构中的几个架构属性，使用机器学习模型对其进行了预测。

Jan, 2020

本文研究在时间约束成本下，卷积神经网络的准确性和架构设计所需的权衡。通过一系列对比实验，得出一个在 ImageNet 数据集中准确率很高（11.8% 的 top-5 误差，10 视图测试），但比 AlexNet（16.0% 的 top-5 误差，10 视图测试）快 20% 的网络架构。

Dec, 2014

介绍了一种新的可视化技术，通过消融研究得出了超越 Krizhevsky 等在 ImageNet 分类基准上的模型架构，其 ImageNet 模型表现优异并且泛化性良好，可以轻松地在其他数据集上取得优异的分类效果。

Nov, 2013

本篇论文主要研究了如何利用适当分解卷积和激进的正则化等方法，使卷积神经网络计算效率最大化，并以 ILSVRC2012 分类挑战作为基准，报告了使用少于 2500 万参数的 5 亿乘加运算成本的网络，评估单帧评估的 top-1 误差 21.2％和 top-5 误差 5.6％的显著成果。

Dec, 2015

本文从深度卷积神经网络的内在分类入手，将现有研究成果归纳为七大类，即空间利用、深度、多路径、宽度、特征图利用、通道增强和注意力，同时介绍 CNN 组件的基础理解、当前挑战和应用领域。

Jan, 2019

通过对卷积神经网络 CNNs 模型对文件图像分类任务的研究，我们发现使用剪切变形的数据扩增和一个针对更大输入图像设计的架构，可以超过基准数据集的现有技术，并且我们发现使用 RVL-CDIP 训练的 CNNs 可以学习区域特定的布局特征。

Aug, 2017

该研究试图通过两个方面对 CNN 的内部表示进行探究，即可视化不同层级所构建的表示空间中的补丁和可视化每个层中保留的视觉信息，进而比较不同深度的 CNN 的优势。

Dec, 2014

本文介绍了两种新方法，通过直接在训练时间上实现正则化和使用部分训练来尽早评估个体架构，有效地减少了复杂性和训练时间，从而生产出有效地 CNN 拓扑结构，提高图像识别准确率，开销减少达 20%。这两种方法均经 CIFAR10 基准数据集验证以及保持准确度。

Feb, 2021

本文介绍了卷积神经网络在图像分类任务中应用的不同架构，从 LeNet-5 到最新的 SENet 模型。同时比较了各个模型的性能差异和训练细节。

May, 2019