简单高效的卷积神经网络架构搜索
本研究提出了一个新的神经架构搜索框架,它基于一个使用形态操作的爬山过程并采用新的梯度更新方法。该技术可以在更广泛的搜索空间中搜索,从而产生竞争优势,其在单个 GPU 训练的 19.4 小时内在 CIFAR-10 数据集上实现了 4.96%的错误率。
Feb, 2021
本文介绍了一种基于层次遗传表征和复杂拓扑的新颖神经体系结构搜索方法,该方法能够高效地发现优于许多手动设计模型的分类器,同时该方法通过随机搜索得到了更高的准确度并将搜索时间缩短至 1 小时。
Nov, 2017
本文提出了一种基于深度神经网络的自动化设计架构的新框架,该框架使用强化学习代理作为元控制器,通过功能保持变换在当前网络的基础上,尝试增加网络深度或层宽。在 CIFAR-10 和 SVHN 基准数据集上的测试表明,该方法在受限的计算资源下可以设计出具有高竞争力的网络,并在不使用跨层连接的条件下实现了 4.23%的测试误差率。
Jul, 2017
本文提供了对现有技术的卷积神经网络分析和拓扑构建的全面概述,并描述和评估了一些层次分类器。此外,本文还开发了一种可视化分类错误的新方法,并在 CIFAR-100 上量化了一些结果,如在精度方面较小批量大小、平均集成、数据增强和测试时间转换等的积极影响。本文还开发了一个模型,它只有 100 万个学习参数,适用于 32x32x3 和 100 类输入,并在基准数据集 Asirra、GTSRB、HASYv2 和 STL-10 上击败了现有技术。
Jul, 2017
提出了使用序贯模型优化(SMBO)策略的 CNN 网络结构学习方法,与现有的强化学习和进化算法相比更加高效,并在 CIFAR-10 和 ImageNet 数据集上取得了新的最佳分类精度。
Dec, 2017
该论文提出了一种不同 iable 的搜索空间方法,可以通过逐渐修剪较差的操作,实现体系结构权重的退火,从而以连续的方式收敛到单个输出网络,实验表明该方法在视觉数据集上具有较高的准确性和较低的搜索成本。
Apr, 2019
本研究提出了一种新的 differentiable NAS 公式,名为 Single-Path NAS,将所有建筑决策编码为共享卷积核参数的一个单路径超参数卷积神经网络,大大降低了搜索过程的开销,并在移动延迟限制下实现了最新的图像分类结果。在不到 3 小时的时间内将 NAS 搜索成本降低到 8 个时期(24TPU 小时),比以前的工作快了多达 5,000 倍。
Jul, 2019
本论文提出了使用蒙特卡罗规划结合两种不同的 UCT(基于树的上限置信度)推导来搜索网络架构,并在一天内找到了 MNIST、SVHN 和 CIFAR-10 的一个具有竞争力的网络,将搜索时间扩展到五天,能够超越人类架构及其同类层次的竞争者。
Dec, 2017