CVPRJun, 2018

EIGEN：生态灵感发掘的神经网络结构遗传搜索

PDF
TL;DR利用基因演化算法，通过模拟自然进化中物种的演化规律，从初始简单神经网络不断进化，辅以基因复制和模拟成功网络行为等方法，在减少计算量的同时有效地解决深度学习中神经网络结构设计的难点，该方法在 CIFAR-100 数据集上实现了 78.1％的测试准确率。
neural networkseigen approachdeep learningevolutioncomputation cost
发现论文，激发创造
  • 高效的神经结构进化算法（EENA）

    本文介绍了一种称为 EENA 的有效神经体系结构搜索方法，该方法通过精心设计的变异和交叉操作进行演化，可以在较少的计算资源下，显著降低搜索和训练时间，并设计出在 CIFAR-10 数据集上效果显著的神经体系结构。

    May, 2019

  • 深度学习生成神经进化

    本篇论文探讨神经进化在深度学习中的作用，其中 HyperNeat 通过训练一种间接编码来实现学习大型神经结构，并且结合其他机器学习方法可以有效提取特征。

    Dec, 2013

  • 基因卷积神经网络

    本文讨论深度卷积神经网络的自动学习，使用遗传算法提高识别准确性，并在两个小型数据集上证明其有效性，并将结构传输到大型数据集上。

    Mar, 2017

  • 脑启发的脉冲神经网络的进化架构

    通过自然进化形成的人脑复杂而独特的神经网络拓扑结构使其能够同时执行多个认知功能，本文通过引入模块化结构和全局互连性来进化脉冲神经网络的架构，同时提出一种高性能、高效能、低能耗的多目标进化算法，通过对静态数据集和神经形态数据集的广泛实验证明了所提出模型的能效提升和稳定优异的性能，并初步探索了人脑生物神经网络的进化机制。

    Sep, 2023

  • 引导进化神经网络架构搜索与高效性能估计

    该论文提出了一种名为 GEA 的新型引导神经结构搜索方法，该方法使用零代理估计器在每个代际初始化阶段生成和评估多个架构，然后从现有架构生成多个后代并同时驱动探索和剪枝，结果表明 GEA 在多个数据集上都取得了最先进的结果。

    Jul, 2022

  • 图神经网络的进化架构搜索

    本研究提出了一种新的自动化机器学习（AutoML）框架，通过演化图神经网络（GNN）模型来寻找最合适的结构和学习参数，并在半监督和归纳式节点表示学习和分类任务上展示它的性能。

    Sep, 2020

  • 演化深度卷积神经网络用于图像分类

    本文提出了一种利用遗传算法优化深度卷积神经网络结构和连接权重初始化的图像分类算法，该算法利用一个高效的可变长度基因编码策略和新的表示方案初始化深度卷积神经网络的连接权重，并提出了一种新的适应度评估方法，实现了在少量计算资源下的快速启发式搜索，与其他 22 个现有算法相比在九个广泛应用于图像分类的任务中表现明显优越。

    Oct, 2017

  • CARS：高效神经结构搜索的不间断进化

    本论文提出一种高效的连续演化方法用于搜索神经网络，该方法在优化神经网络的同时，使用优化后的神经网络在下一次的演化中，大大地加速了网络生成的效率。实验表明，该方法产生的神经网络在 mobile 设置下，参数数量在 3.7M 到 5.1M 之间不等，在 ImageNet 数据集上的表现超过了目前已有的先进方法。

    Sep, 2019

  • 图像分类器结构搜索的正则化进化

    这篇文章介绍了使用进化算法自动生成图像分类器的技术，并提出了一种改进的锦标赛选择进化算法，在同样的计算资源下超过了人类手工设计的图像分类器，并在 ImageNet 数据集上取得了优异成果。

    Feb, 2018

  • 高效架构搜索的层次化表示

    本文介绍了一种基于层次遗传表征和复杂拓扑的新颖神经体系结构搜索方法，该方法能够高效地发现优于许多手动设计模型的分类器，同时该方法通过随机搜索得到了更高的准确度并将搜索时间缩短至 1 小时。

    Nov, 2017