automated machine learning (AutoML) has seen a resurgence in interest with
the boom of deep learning over the past decade. In particular, Neural
Architecture Search (NAS) has seen significant attention throughout the AutoML
research community, and has pushed forward the state-of-the-ar
神经架构搜索(NAS)从手动设计到自动化,提供了全面的概述,强调其在不同领域中的应用,包括医学成像和自然语言处理。该文档详细介绍了从专家驱动设计到算法驱动过程的转变,探索了初步的方法,例如强化学习和进化算法。还讨论了计算需求和高效 NAS 方法的挑战,如可微分架构搜索和硬件感知 NAS。本文进一步阐述了 NAS 在计算机视觉、自然语言处理等领域的应用,展示了其在不同任务中优化神经网络架构的多样性和潜力。未来的方向和挑战包括计算效率和与新兴 AI 领域的整合,展示了 NAS 的动态特性和其朝着更复杂、高效的架构搜索方法的持续演化。