AAAIFeb, 2021

Evolving CNN 拓扑结构的两个新性能改进

PDF
TL;DR本文介绍了两种新方法，通过直接在训练时间上实现正则化和使用部分训练来尽早评估个体架构，有效地减少了复杂性和训练时间，从而生产出有效地 CNN 拓扑结构，提高图像识别准确率，开销减少达 20%。这两种方法均经 CIFAR10 基准数据集验证以及保持准确度。
发现论文，激发创造
  • 演化深度卷积神经网络用于图像分类

    本文提出了一种利用遗传算法优化深度卷积神经网络结构和连接权重初始化的图像分类算法，该算法利用一个高效的可变长度基因编码策略和新的表示方案初始化深度卷积神经网络的连接权重，并提出了一种新的适应度评估方法，实现了在少量计算资源下的快速启发式搜索，与其他 22 个现有算法相比在九个广泛应用于图像分类的任务中表现明显优越。

    Oct, 2017

  • 卷积神经网络结构分析与优化

    本文提供了对现有技术的卷积神经网络分析和拓扑构建的全面概述，并描述和评估了一些层次分类器。此外，本文还开发了一种可视化分类错误的新方法，并在 CIFAR-100 上量化了一些结果，如在精度方面较小批量大小、平均集成、数据增强和测试时间转换等的积极影响。本文还开发了一个模型，它只有 100 万个学习参数，适用于 32x32x3 和 100 类输入，并在基准数据集 Asirra、GTSRB、HASYv2 和 STL-10 上击败了现有技术。

    Jul, 2017

  • 基因卷积神经网络

    本文讨论深度卷积神经网络的自动学习，使用遗传算法提高识别准确性，并在两个小型数据集上证明其有效性，并将结构传输到大型数据集上。

    Mar, 2017

  • 结合卷积神经网络的神经进化增强拓扑

    本文探索将神经进化算法应用于卷积神经网络拓扑结构优化，使用 Residual Networks 实现可变卷积神经网络拓扑结构，同时讨论如何对该系统进行优化以适应基于遗传算法的优化方法。

    Oct, 2022

  • 一种用遗传编程设计卷积神经网络体系结构的方法

    本文介绍了一种使用 Cartesian 遗传编程自动构建卷积神经网络结构的方法，并通过将其应用于 CIFAR-10 数据集的图像分类任务验证了该方法的有效性。

    Apr, 2017

  • 基于长度约束的卷积神经网络架构设计演化

    通过限制模型长度等策略，利用搜索长度策略和基因算法进行搜索架构，从而在计算资源消耗极低的情况下取得 Cifar-10 数据集上 5.12% 的错误率。

    May, 2023

  • 使用遗传算法改进 CNN 加速器的层间流水线

    通过图形排序的遗传算法，我们开发了一种针对卷积神经网络的层融合技术，减少了边缘平台上的数据传输，从而提高了能效和能延迟乘积（EDP），在类似 SIMBA 移动架构上的 MobileNet-v3 中实现了 1.8 倍的能效提升和 1.9 倍的 EDP 改善。我们的方法对 SIMBA 平台和 Eyeriss 平台的工作负载性能一致改善，平均 EDP 改善 1.4 倍和 1.12 倍。

    Nov, 2023

  • 利用遗传算法自动设计卷积神经网络架构进行图像分类

    本文提出一种使用遗传算法进行卷积神经网络 (CNNs) 自动架构设计的方法，无需领域知识，可有效解决图像分类任务，实验证明该方法在分类准确性、参数数量和计算资源消耗方面优于现有的自动 CNN 架构设计算法。

    Aug, 2018

  • 限定时间成本下的卷积神经网络

    本文研究在时间约束成本下，卷积神经网络的准确性和架构设计所需的权衡。通过一系列对比实验，得出一个在 ImageNet 数据集中准确率很高（11.8% 的 top-5 误差，10 视图测试），但比 AlexNet（16.0% 的 top-5 误差，10 视图测试）快 20% 的网络架构。

    Dec, 2014

  • 图像分类器的大规模进化

    采用进化算法发现神经网络的架构，提出新型变异算子探索搜索空间以实现自动化，成功在 CIFAR-10 和 CIFAR-100 数据集上达到 94.6% 和 77.0% 的准确率，且无需人为干预。

    Mar, 2017