Aug, 2021

FLASH：具有硬件优化的快速神经架构搜索

PDF
TL;DRFLASH 是一种快速的神经架构搜索方法，它在真实硬件平台上协同优化 DNN 的准确性和性能，并且该算法比现有最先进的方法具有超过四个数量级的加速，在嵌入式设备上，搜索时间不到 3 秒。
neural architecture searchnasdeep neural networksdnnhardware accelerators
发现论文，激发创造
  • 硬件感知神经架构搜索的综合调查

    该论文综述了当前关于硬件感知神经架构搜索的研究，包括搜索空间，搜索策略，加速技术和硬件成本估计策略。研究者采用多目标优化算法来解决神经架构复杂，导致在 IoT，移动和嵌入式系统等资源受限的平台上部署困难的问题，并讨论了相关算法及策略的挑战和局限性，同时为未来的研究提供参考，这是首篇针对硬件感知神经架构搜索的论文综述。

    Jan, 2021

  • FOX-NAS: 快速、设备本地且可解释的神经架构搜索

    FOX-NAS 提出了一种基于模拟退火和多元回归的快速可解释性的预测方法，能较高效地量化并在边缘部署，实验结果显示 FOX-NAS 模型的性能优于其他流行的神经网络架构，获得了 2020 年低功耗计算机视觉挑战赛 (DSP 分类) 第三名。

    Aug, 2021

  • HourNAS: 透过沙漏镜头的极速神经架构搜索

    我们提出了一种基于沙漏启发式方法的神经架构搜索算法，该算法能通过识别关键块并将其优先考虑，从而快速搜索出网络架构，同时保持准确性，并且在计算资源的限制下，进一步缩小了搜索空间，获得了 77.0％的 Top-1 准确率，超过了最先进的方法。

    May, 2020

  • 准确性与效率：通过 FPGA-Aware 神经架构搜索实现双赢

    本文提出了一种新的硬件感知的神经架构搜索框架，名为 FNAS，使用 Field Programmable Gate Arrays 作为车辆，通过性能抽象模型对神经架构进行快速剪枝，以保证满足实现规范的延迟，并在精度下降少于 1% 的情况下快速搜索到有效的架构。

    Jan, 2019

  • SqueezeNAS：用于更快语义分割的快速神经架构搜索

    本研究采用无代理的硬件感知搜索方法，针对密集的语义分割任务，实现了特定任务和推理硬件上优化的网络，并在 Cityscapes 语义分割数据集上实现了最先进的网络准确度优化，在 NVIDIA AGX Xavier 上实现了低于 100ms 推理时间的 73.62％的类 mIOU，并与最新的最先进架构进行了详细分析。

    Aug, 2019

  • HQNAS: 联合量化和架构搜索的自动 CNN 部署框架

    提出一种硬件感知量化神经架构搜索 (HQNAS) 框架，将神经结构搜索和量化方法结合，通过权值共享和比特共享以高效优雅的方式完成。在 CIFAR10 中只需要 4 小时 GPU 时间，能发现出卓越的 NN 策略。同时，我们的方法支持在线学习和持续适应环境。

    Oct, 2022

  • 关于资源受限硬件平台的神经架构搜索

    提出了一种新的框架，用于在限制条件下寻找最优的量化神经架构并实现在给定的硬件规格上，该框架使用 FPGAs 来实现和测试设计并在 CIFAR10 任务中提高了 18％至 68％的准确性。

    Oct, 2019

  • S3NAS: 快速 NPU 感知的神经网络架构搜索方法

    本文提出了一种快速 NPU 感知的 NAS 方法 S3NAS，通过超网设计、单路径 NAS 和扩展这三步实现在给定延迟限制下寻找具有更高准确性的 CNN 结构，通过该方法，在 3 小时内使用 TPUv3 找到了一种具有 82.72％ Top-1 准确度和 11.66 毫秒延迟的网络。

    Sep, 2020

  • NAS-FCOS：用于目标检测的快速神经架构搜索

    本研究使用增强学习范式，通过对特定搜索空间的精心设计和策略，高效地搜索出网络结构，提出了一种优化目标检测模型的神经网络架构搜索方法，并在四天内使用 8 V100 GPUs 在 COCO 数据集上取得比 Faster R-CNN、RetinaNet 和 FCOS 等模型更好的性能，充分展示了该方法的有效性。

    Jun, 2019

  • SpikeNAS：一种用于脉冲神经网络系统的快速、内存感知的神经架构搜索框架

    SpikeNAS 是一种新颖的内存感知神经架构搜索（NAS）框架，用于 SNN，能够在给定的内存预算下快速找到适当的 SNN 架构，提高准确性并满足内存受限的 SNN 系统的需求。

    Feb, 2024