基于核心 - 边缘原则的卷积神经网络（CP-CNN）

Mar, 2023

基于核心 - 边缘原则的卷积神经网络（CP-CNN）

CP-CNN: Core-Periphery Principle Guided Convolutional Neural Network

Lin Zhao, Haixing Dai, Zihao Wu, Dajiang Zhu, Tianming Liu

TL;DR本研究探索了一种基于人脑网络的核心 - 边缘性能的人工神经网络设计原则，并通过该设计原则指导卷积神经网络的设计，使其相较于传统卷积神经网络以及基于 ViT 的方法，效果更为优越。

Abstract

The evolution of convolutional neural networks (CNNs) can be largely attributed to the design of its architecture, i.e., the network wiring pattern. neural architecture search (NAS) advances this by automating the search for the optimal network architecture, but the resulting network i

convolutional neural network neural architecture search brain-inspired design principle core-periphery property sparsification

发现论文，激发创造

利用生物神经元属性的卷积神经网络

通过结合生物神经元原理，使用基于神经科学的计算模型来增强训练效率和提高准确性，以推动组合感受野模型作为卷积神经网络的基础层，从而在 CIFAR-10、CIFAR-100 和 ImageNet-100 数据集上实现性能显著提升（平均提升 5%-10%）

Nov, 2023

一种用遗传编程设计卷积神经网络体系结构的方法

本文介绍了一种使用 Cartesian 遗传编程自动构建卷积神经网络结构的方法，并通过将其应用于 CIFAR-10 数据集的图像分类任务验证了该方法的有效性。

Apr, 2017

深度卷积神经网络最近的架构调查

本文从深度卷积神经网络的内在分类入手，将现有研究成果归纳为七大类，即空间利用、深度、多路径、宽度、特征图利用、通道增强和注意力，同时介绍 CNN 组件的基础理解、当前挑战和应用领域。

Jan, 2019

卷积神经网络架构优化

卷积神经网络（CNN）在面对声音识别、自然语言处理或计算机视觉等具有挑战性的任务时被广泛使用。本文提出了一种新颖的 CNN 优化和构建方法，基于剪枝和知识蒸馏，旨在确定卷积层的重要性，以减少计算要求，并在资源受限设备上部署。经过彻底的实证研究，包括最佳数据集（CIFAR-10、CIFAR-100 和 Imagenet）和 CNN 架构（VGG-16、ResNet-50、DenseNet-40 和 MobileNet），我们评估了该提议，并将准确度损失和剩余参数比率作为客观指标来比较 OCNNA 与其他最先进的方法的性能。与其他 20 多种卷积神经网络简化算法相比，我们的方法取得了出色的结果。因此，OCNNA 是一种竞争性的 CNN 构建方法，可以简化神经网络部署到物联网或资源有限设备的过程。

Dec, 2023

卷积神经网络结构分析与优化

本文提供了对现有技术的卷积神经网络分析和拓扑构建的全面概述，并描述和评估了一些层次分类器。此外，本文还开发了一种可视化分类错误的新方法，并在 CIFAR-100 上量化了一些结果，如在精度方面较小批量大小、平均集成、数据增强和测试时间转换等的积极影响。本文还开发了一个模型，它只有 100 万个学习参数，适用于 32x32x3 和 100 类输入，并在基准数据集 Asirra、GTSRB、HASYv2 和 STL-10 上击败了现有技术。

Jul, 2017

图像处理的卷积神经金字塔

本研究提出了一种基于卷积神经金字塔（CNP）框架的、旨在解决低层次视觉和图像处理任务的方法，可实现低计算复杂度下大感受野视觉处理。此方法适用于图像复原、填补、降噪、去除伪影、边缘升华、滤波、增强和上色等应用领域。

Apr, 2017

深度卷积神经网络的架构优化

本文旨在回答选定 CNN 模型是否是最优的准确度和模型大小，并提出了一种新的策略，通过拉伸和对称分割来优化架构，从而提高准确性并减小模型大小。作者在两个自然场景属性数据集上测试了该方法并证明了其有效性。

Apr, 2016

通过架构特征推断卷积神经网络的准确性

本研究提出了一种有利于评估不同卷积神经网络体系结构的系统性语言，该语言能够在训练前进行比较，本研究使用该语言在两个具体的基于计算机视觉的物理问题上，解决了事件顶点查找和强子多重性分类问题，同时提取了优化网络架构中的几个架构属性，使用机器学习模型对其进行了预测。

Jan, 2020

稳健原则：对抗稳健 CNN 的架构设计原则

我们研究的目标是统一现有作品在架构组件如何影响 CNN 的对抗鲁棒性方面的分歧意见。为了实现我们的目标，我们综合了三个可推广的鲁棒架构设计原则：(a) 深度和宽度配置的最佳范围，(b) 优先使用卷积而非拼贴块的初始阶段，和 (c) 通过采用挤压和激励块以及非参数平滑激活函数的鲁棒残差块设计。通过在广泛的数据集规模、对抗训练方法、模型参数和网络设计空间上进行大量实验证明，我们的原则始终显著提高 AutoAttack 的准确性：CIFAR-10 和 CIFAR-100 上为 1-3 个百分点 (pp)，ImageNet 上为 4-9 个百分点 (pp)。代码可以公开访问该 URL。

Aug, 2023

深度卷积神经网络设计模式

本文介绍了一些基于最近深度学习的集体知识挖掘的神经网络结构设计原则，并提出了 FractalNet、Stagewise Boosting Networks 和 Taylor Series Networks 等创新型架构。

Nov, 2016