Feb, 2021

山口爬升领域神经架构搜索的新框架

PDF
TL;DR本研究提出了一个新的神经架构搜索框架，它基于一个使用形态操作的爬山过程并采用新的梯度更新方法。该技术可以在更广泛的搜索空间中搜索，从而产生竞争优势，其在单个 GPU 训练的 19.4 小时内在 CIFAR-10 数据集上实现了 4.96％的错误率。
neural networksdeep learningarchitecture searchmorphing operatorcifar-10
发现论文，激发创造
  • 简单高效的卷积神经网络架构搜索

    该研究提出了一种自动设计合适的卷积神经网络结构的方法，使用了能产生网络变形的 “山峰爬升法” 和余弦退火法，并取得了较为优异的结果。

    Nov, 2017

  • 高效架构搜索的层次化表示

    本文介绍了一种基于层次遗传表征和复杂拓扑的新颖神经体系结构搜索方法，该方法能够高效地发现优于许多手动设计模型的分类器，同时该方法通过随机搜索得到了更高的准确度并将搜索时间缩短至 1 小时。

    Nov, 2017

  • 神经架构搜索综述

    本文综述了现有的方法，囊括了计算机领域中的神经体系结构搜索、自动化方法和深度学习等方面，内容包括常用的体系结构搜索空间和基于强化学习和进化算法的体系结构优化算法、模拟模型和单次模型。同时，文章对新的研究方向进行了探讨。

    May, 2019

  • 通过网络转换实现高效架构搜索

    本文提出了一种基于深度神经网络的自动化设计架构的新框架，该框架使用强化学习代理作为元控制器，通过功能保持变换在当前网络的基础上，尝试增加网络深度或层宽。在 CIFAR-10 和 SVHN 基准数据集上的测试表明，该方法在受限的计算资源下可以设计出具有高竞争力的网络，并在不使用跨层连接的条件下实现了 4.23％的测试误差率。

    Jul, 2017

  • Auto-Keras: 一种高效的神经结构搜索系统

    本研究提出了一种新的框架，利用神经网络变形和贝叶斯优化，实现了高效的神经架构搜索，并基于此开发了 Auto-Keras 的开源 AutoML 系统，该系统在不同 GPU 内存限制下具有自适应的搜索策略和 CPU 和 GPU 并行运行的能力，实验结果表明，该方法的性能优于现有技术。

    Jun, 2018

  • 深度神经网络结构和超参数优化的算法框架

    本篇论文提出一种基于演化有向无环图的算法框架，自动生成高效的深度神经网络并优化其相关超参数，与已有文献中的搜索空间相比更具灵活性，能优化网络的结构和超参数，已经在时间序列预测基准测试中得到了实验结果的验证。

    Feb, 2023

  • 使用强化学习的神经架构搜索: DQNAS

    该论文介绍了使用强化学习和一次性训练为指导原则的自动神经架构搜索框架 DQNAS，用于生成具有优越性能且具有最小可扩展性问题的神经网络架构。该框架可以减少设计卷积神经网络的时间和测试成本。

    Jan, 2023

  • 在四个 GPU 小时内寻找强韧的神经网络结构

    通过可微分采样器实现基于梯度下降的神经结构搜索方法，旨在在 CIFAR-10 数据集上提升搜索效率并获取与最新技术水平持平的测试准确率。

    Oct, 2019

  • 神经结构搜索的演化搜索空间

    通过维护一个优化的搜索空间子集的神经搜索空间演化（NSE）方案，引入可学习的多分支设置，实现了神经架构设计的自动化和优化，以在 ImageNet 上实现优异的表现和响应延迟限制。

    Nov, 2020

  • ASAP: 体系结构搜索，降温和裁剪

    该论文提出了一种不同 iable 的搜索空间方法，可以通过逐渐修剪较差的操作，实现体系结构权重的退火，从而以连续的方式收敛到单个输出网络，实验表明该方法在视觉数据集上具有较高的准确性和较低的搜索成本。

    Apr, 2019