Aug, 2023

混合遗传算法与爬山优化方法用于神经网络

PDF
TL;DR本文提出了一种混合模型，结合了遗传算法和爬山算法，用于优化 CIFAR-100 数据集上的卷积神经网络。实验结果表明，该混合模型比标准算法在更少的迭代次数下实现了更好的准确度，因此该模型可以成为优化大型数据集上的卷积神经网络的一种有前景的方法。
发现论文，激发创造
  • 山口爬升领域神经架构搜索的新框架

    本研究提出了一个新的神经架构搜索框架，它基于一个使用形态操作的爬山过程并采用新的梯度更新方法。该技术可以在更广泛的搜索空间中搜索，从而产生竞争优势，其在单个 GPU 训练的 19.4 小时内在 CIFAR-10 数据集上实现了 4.96％的错误率。

    Feb, 2021

  • 演化深度卷积神经网络用于图像分类

    本文提出了一种利用遗传算法优化深度卷积神经网络结构和连接权重初始化的图像分类算法，该算法利用一个高效的可变长度基因编码策略和新的表示方案初始化深度卷积神经网络的连接权重，并提出了一种新的适应度评估方法，实现了在少量计算资源下的快速启发式搜索，与其他 22 个现有算法相比在九个广泛应用于图像分类的任务中表现明显优越。

    Oct, 2017

  • 一种用遗传编程设计卷积神经网络体系结构的方法

    本文介绍了一种使用 Cartesian 遗传编程自动构建卷积神经网络结构的方法，并通过将其应用于 CIFAR-10 数据集的图像分类任务验证了该方法的有效性。

    Apr, 2017

  • Evolving CNN 拓扑结构的两个新性能改进

    本文介绍了两种新方法，通过直接在训练时间上实现正则化和使用部分训练来尽早评估个体架构，有效地减少了复杂性和训练时间，从而生产出有效地 CNN 拓扑结构，提高图像识别准确率，开销减少达 20%。这两种方法均经 CIFAR10 基准数据集验证以及保持准确度。

    Feb, 2021

  • 基于连续的笛卡尔遗传编程的多目标神经网络架构搜索表示

    本研究介绍了一种新的方法，利用笛卡尔遗传编程来实现神经结构搜索，并通过多目标进化算法（MOEA）在连续域中进行优化，提出了两种变体，这些变体在粒度上的考虑不同，经实验结果证明，相对于目前最先进的提议，本文提出的方法在分类性能和模型复杂度方面具有竞争力。

    Jun, 2023

  • 简单高效的卷积神经网络架构搜索

    该研究提出了一种自动设计合适的卷积神经网络结构的方法，使用了能产生网络变形的 “山峰爬升法” 和余弦退火法，并取得了较为优异的结果。

    Nov, 2017

  • 基因卷积神经网络

    本文讨论深度卷积神经网络的自动学习，使用遗传算法提高识别准确性，并在两个小型数据集上证明其有效性，并将结构传输到大型数据集上。

    Mar, 2017

  • 利用遗传算法自动设计卷积神经网络架构进行图像分类

    本文提出一种使用遗传算法进行卷积神经网络 (CNNs) 自动架构设计的方法，无需领域知识，可有效解决图像分类任务，实验证明该方法在分类准确性、参数数量和计算资源消耗方面优于现有的自动 CNN 架构设计算法。

    Aug, 2018

  • 使用遗传算法进行卷积神经网络的多目标剪枝

    提出了一种启发式遗传算法（GA）来剪枝卷积神经网络（CNN），在错误、计算和稀疏性之间进行多目标权衡，经实验证明，GA 可以根据预定义的适应度函数自动剪枝 CNN，得到竞争性的压缩性能。

    Jun, 2019

  • 使用遗传算法改进 CNN 加速器的层间流水线

    通过图形排序的遗传算法，我们开发了一种针对卷积神经网络的层融合技术，减少了边缘平台上的数据传输，从而提高了能效和能延迟乘积（EDP），在类似 SIMBA 移动架构上的 MobileNet-v3 中实现了 1.8 倍的能效提升和 1.9 倍的 EDP 改善。我们的方法对 SIMBA 平台和 Eyeriss 平台的工作负载性能一致改善，平均 EDP 改善 1.4 倍和 1.12 倍。

    Nov, 2023