神经架构搜索综述

May, 2019

A Survey on Neural Architecture Search

Martin Wistuba, Ambrish Rawat, Tejaswini Pedapati

TL;DR本文综述了现有的方法，囊括了计算机领域中的神经体系结构搜索、自动化方法和深度学习等方面，内容包括常用的体系结构搜索空间和基于强化学习和进化算法的体系结构优化算法、模拟模型和单次模型。同时，文章对新的研究方向进行了探讨。

Abstract

The growing interest in both the automation of machine learning and deep learning has inevitably led to the development of a wide variety of automated methods for neural architecture search. The choice of the network architecture has proven to be critical, and many advances in deep lea

neural architecture search automated methods deep learning techniques architecture optimization algorithms constrained architecture search

发现论文，激发创造

神经网络架构搜索：综述

本文通过分类讨论搜索空间、搜索策略与性能估计策略三种维度，为神经架构自动搜索方法的存在研究提供了一个概述。

Aug, 2018

高效神经网络架构搜索空间定义的方法

在这篇论文中，我们提出了一种新颖的基于细胞的分层搜索空间，易于理解和操作，旨在优化搜索时间并且足够通用，可以处理大多数卷积神经网络的最先进架构。

Oct, 2023

神经网络结构搜索的综合调查：挑战与解决方案

本文对神经网络结构自动设计的算法 —— 神经架构搜索进行了全面的综述与研究，提出了对早期算法的问题的总结和解决方案，并对这些工作进行了详细的比较和总结。文章最后给出了可能的未来研究方向。

Jun, 2020

1000 篇论文中的神经架构搜索 Insights

过去十年，深度学习的发展在计算机视觉、自然语言理解、语音识别和强化学习等多个领域取得了重大突破。神经架构搜索是自动化机器学习的必然发展方向，已经在很多任务上超过了最好的人类设计架构。本文概述不同的搜索空间、算法和加速技术，并介绍了基准、最佳实践、其他综述和开放源代码库。

Jan, 2023

自动化深度学习：神经架构搜索不是终点

该综述回顾了自动深度学习方向的研究进展，提出了十个评估标准，包括新颖性、解决方案质量、效率、稳定性、可解释性、再现性、工程质量、可扩展性、泛化性和环保性。

Dec, 2021

使用强化学习的神经架构搜索: DQNAS

该论文介绍了使用强化学习和一次性训练为指导原则的自动神经架构搜索框架 DQNAS，用于生成具有优越性能且具有最小可扩展性问题的神经网络架构。该框架可以减少设计卷积神经网络的时间和测试成本。

Jan, 2023

神经架构搜索中的深度主动学习

本文研究了主动学习深度神经网络，并提出了一种新的主动策略，该策略能够在学习过程中搜索有效的架构，同时使用三种已知的查询技术（softmax response，MC-dropout 和 coresets）进行应用，结果表明该方法在固定架构的主动学习方面表现出显著的优势。

Nov, 2018

神经网络设计的高效自动化：可微分神经架构搜索综述

该论文综述了 Differentiable Neural Architecture Search (DNAS) 领域的最新进展，提出了一种基于挑战的分类方法，并探讨了 DNAS 对全局神经架构搜索领域的影响和未来研究方向。

Apr, 2023

卷积网络的神经结构搜索简介

本文介绍了神经架构搜索的基本概念以及搜索空间、算法和评估技术的主要进展。

May, 2020

演化神经架构搜索综述

本文系统地综述了 200 多篇最新基于进化计算的 NAS 算法，分析了其设计原理和未来研究方向。

Aug, 2020