CVPRJul, 2018

MnasNet：面向移动端平台感知的神经结构搜索

PDF
TL;DR本文提出了一种自动化的移动神经结构搜索（MNAS）方法，该方法将模型延迟明确地纳入主要目标，以便搜索可以识别满足准确性和延迟之间良好平衡的模型， 实验结果表明，该方法在多个视觉任务中始终优于现有的移动卷积神经网络模型，并且实现了更好的 mAP 质量。
convolutional neural networksmobile devicesneural architecture searchtrade-offslayer diversity
发现论文，激发创造
  • 基于可微分神经架构搜索的硬件感知高效卷积神经网络设计：FBNet

    通过使用梯度的基础方法优化 ConvNet 结构，避免像以前的方法一样枚举并分别训练个别结构，我们提出了一个可微分的神经结构搜索（DNAS）框架。FBNets 是通过 DNAS 发现的模型族，其在设计和生成自动模型方面均超过手动设计的最新模型，并在移动设备上获得更高的准确性和更低的延迟。

    Dec, 2018

  • MnasFPN: 在移动设备上学习时延感知金字塔架构用于对象检测

    本研究提出 MnasFPN 架构搜索空间以及结合基于延迟感知的搜索方法的对象检测模型设计，与 MobileNetV2 体系结构相匹配，优于 MobileNetV3+SSDLite 1.8 mAP，在与 NAS-FPNLite 相比，精度更高 1.0 mAP，速度更快 10%。

    Dec, 2019

  • Single-Path NAS: 设备感知高效的 ConvNet 设计

    本文介绍了一种基于 Single-Path NAS 的新型可微分神经架构搜索方法，可以在移动设备延迟限制下设计高效的卷积神经网络，并实现了 Pixel 1 手机上的图像分类，取得了当前最先进的结果。

    May, 2019

  • 单路径移动端自动机器学习：高效的卷积神经网络设计和 NAS 超参数优化

    本研究提出了一种新的 differentiable NAS 公式，名为 Single-Path NAS，将所有建筑决策编码为共享卷积核参数的一个单路径超参数卷积神经网络，大大降低了搜索过程的开销，并在移动延迟限制下实现了最新的图像分类结果。在不到 3 小时的时间内将 NAS 搜索成本降低到 8 个时期（24TPU 小时），比以前的工作快了多达 5,000 倍。

    Jul, 2019

  • S3NAS: 快速 NPU 感知的神经网络架构搜索方法

    本文提出了一种快速 NPU 感知的 NAS 方法 S3NAS，通过超网设计、单路径 NAS 和扩展这三步实现在给定延迟限制下寻找具有更高准确性的 CNN 结构，通过该方法，在 3 小时内使用 TPUv3 找到了一种具有 82.72％ Top-1 准确度和 11.66 毫秒延迟的网络。

    Sep, 2020

  • 用于内存计算的多目标神经架构搜索

    我们使用神经架构搜索（NAS）方法，通过贝叶斯优化构建卷积神经网络（CNN）模型，以灵活适配的深度增强内存计算（IMC）架构上的多样机器学习（ML）任务的效率。通过在超过 6.4 亿网络配置的庞大搜索空间中探索贝叶斯搜索算法，我们验证了我们的 NAS 方法在 IMC 架构部署中取得高准确性、低延迟和能量消耗的平衡解的有效性，涵盖了三个不同的图像分类数据集。

    Jun, 2024

  • 单路径 NAS：在少于 4 小时内设计硬件高效的 ConvNets

    本研究提出了 Single-Path NAS，这是一种新的可微分 NAS 方法，用于在少于 4 小时的时间内设计硬件高效的 ConvNets，并在移动设备下实现最高图像分类准确性。

    Apr, 2019

  • MoGA: 超越 MobileNetV3 的搜索

    本文提出了 MoGA 神经架构搜索方法，通过 GPU-Aware 技术和加权进化技术，针对实际应用中移动终端 GPU 的特点进行优化，从而达到更好的性能。在类似延迟约束下，MoGA-A 在 ImageNet 上实现了 75.9％的 Top-1 精度，其他模型也表现优异。

    Aug, 2019

  • 实例感知神经架构搜索

    本文提出了一种基于实例的神经架构搜索方法 InstaNAS，通过搜索一种 “架构分布” 而不是单一的神经架构，确保难以处理的样本使用复杂的神经架构来减少前处理时间，并在搜索空间中验证表明，与 MobileNetV2 相比，在多个数据集上具有相同的准确性和大约 48.8％的前处理时间减少。

    Nov, 2018

  • SqueezeNAS：用于更快语义分割的快速神经架构搜索

    本研究采用无代理的硬件感知搜索方法，针对密集的语义分割任务，实现了特定任务和推理硬件上优化的网络，并在 Cityscapes 语义分割数据集上实现了最先进的网络准确度优化，在 NVIDIA AGX Xavier 上实现了低于 100ms 推理时间的 73.62％的类 mIOU，并与最新的最先进架构进行了详细分析。

    Aug, 2019