ICLRNov, 2017

高效架构搜索的层次化表示

PDF
TL;DR本文介绍了一种基于层次遗传表征和复杂拓扑的新颖神经体系结构搜索方法，该方法能够高效地发现优于许多手动设计模型的分类器，同时该方法通过随机搜索得到了更高的准确度并将搜索时间缩短至 1 小时。
neural architecture searchevolutionary algorithmmodularized design patternimage classificationexpressive search space
发现论文，激发创造
  • 简单高效的卷积神经网络架构搜索

    该研究提出了一种自动设计合适的卷积神经网络结构的方法，使用了能产生网络变形的 “山峰爬升法” 和余弦退火法，并取得了较为优异的结果。

    Nov, 2017

  • 图像分类器的大规模进化

    采用进化算法发现神经网络的架构，提出新型变异算子探索搜索空间以实现自动化，成功在 CIFAR-10 和 CIFAR-100 数据集上达到 94.6% 和 77.0% 的准确率，且无需人为干预。

    Mar, 2017

  • 山口爬升领域神经架构搜索的新框架

    本研究提出了一个新的神经架构搜索框架，它基于一个使用形态操作的爬山过程并采用新的梯度更新方法。该技术可以在更广泛的搜索空间中搜索，从而产生竞争优势，其在单个 GPU 训练的 19.4 小时内在 CIFAR-10 数据集上实现了 4.96％的错误率。

    Feb, 2021

  • 在动态搜索空间中利用有限 GPU 时间优化神经架构搜索：基于基因表达编程的方法

    本文提出了一种基于进化的神经架构搜索方法，利用基因表达式编程来进行卷积神经网络结构的发现，获得了良好的结果，同时也鼓励在进化的神经架构搜索中进行更多的实验。

    May, 2020

  • 高效的神经结构进化算法（EENA）

    本文介绍了一种称为 EENA 的有效神经体系结构搜索方法，该方法通过精心设计的变异和交叉操作进行演化，可以在较少的计算资源下，显著降低搜索和训练时间，并设计出在 CIFAR-10 数据集上效果显著的神经体系结构。

    May, 2019

  • 可扩展图像识别的可传递架构学习

    本文提出了一种在小数据集上搜索神经网络模型结构并将其转移至大数据集的方法，称为 NASNet，通过设计新的搜索空间并使用调度 DropPath 技术提高了模型在 ImageNet 等数据集上的分类正确率。

    Jul, 2017

  • 神经结构搜索的演化搜索空间

    通过维护一个优化的搜索空间子集的神经搜索空间演化（NSE）方案，引入可学习的多分支设置，实现了神经架构设计的自动化和优化，以在 ImageNet 上实现优异的表现和响应延迟限制。

    Nov, 2020

  • 高效神经网络架构搜索空间定义的方法

    在这篇论文中，我们提出了一种新颖的基于细胞的分层搜索空间，易于理解和操作，旨在优化搜索时间并且足够通用，可以处理大多数卷积神经网络的最先进架构。

    Oct, 2023

  • 图像分类器结构搜索的正则化进化

    这篇文章介绍了使用进化算法自动生成图像分类器的技术，并提出了一种改进的锦标赛选择进化算法，在同样的计算资源下超过了人类手工设计的图像分类器，并在 ImageNet 数据集上取得了优异成果。

    Feb, 2018

  • 神经架构优化

    本论文提出了一种基于连续优化的自动神经架构设计方法，使用编码器、预测器和解码器组成的方法在连续空间中进行梯度优化，通过将较好的嵌入解码成新的架构，最终实现在 CIFAR-10 和 PTB 数据集上高效发现神经网络，并与之前的方法相比实现了较好的效果。

    Aug, 2018