May, 2020

EDD：高效可微分 DNN 架构与实现：嵌入式 AI 解决方案的联合搜索

PDF
TL;DR该研究提出了完全同时的不可区分的 DNN 架构和实现协同搜索方法（EDD），用于不同设备、不同目标的高质量 AI 解决方案。
ai solutionsdnn architectureimplementation co-searchsearch timefpga
发现论文，激发创造
  • 可微架构搜索：DARTS

    本文介绍了一种基于可微分的连续松弛方法来应对体系结构搜索的可扩展性挑战，该方法可在 CIFAR-10、ImageNet、Penn Treebank 和 WikiText-2 等数据集中快速搜索高性能的卷积体系结构和循环体系结构。

    Jun, 2018

  • 重新思考神经网络结构与硬件加速器的共同设计

    本研究系统研究了协同设计神经网络架构和硬件加速器的重要性和策略，发现不同的使用场景会导致非常不同的搜索结果，研究表明联合搜索方法在所有延迟目标上始终优于以前的面向平台的神经体系结构搜索、手动设计的模型和最先进的 EfficientNet，可将边缘加速器的能源消耗降低高达 2 倍。

    Feb, 2021

  • FPGA/DNN Co-Design: 物联网边缘智能的高效设计方法

    本文提出了一种相结合的 FPGA/DNN 共同设计方法，包括自动设计流程和硬件优化的 DNN 模型搜索，结果表明在对象检测上该设计方案的 DNN 模型和加速器在交并比、帧数、功耗和能量效率等多个方面优于 GPU 解决方案。

    Apr, 2019

  • 渐进可微分架构搜索：弥合搜索和评估之间的深度鸿沟

    论文使用渐进式搜索算法，通过解决搜索深度过大和计算资源消耗等问题，实现对神经架构搜索的优化，获得了在 CIFAR10 和 ImageNet 数据集上的最先进表现。

    Apr, 2019

  • 搜索时间高效设备约束感知的神经架构搜索

    边缘计算旨在使边缘设备（如物联网设备）能够在本地处理数据，而不是依赖云端。本文提出了一种基于 DCA-NAS 的快速神经网络架构搜索方法，该方法结合了边缘设备的约束条件，如模型大小和浮点运算，通过权重共享和通道瓶颈技术加快搜索速度，并发现了具有低推断延迟和最先进性能的特定设备架构。

    Jul, 2023

  • 在四个 GPU 小时内寻找强韧的神经网络结构

    通过可微分采样器实现基于梯度下降的神经结构搜索方法，旨在在 CIFAR-10 数据集上提升搜索效率并获取与最新技术水平持平的测试准确率。

    Oct, 2019

  • 深度神经网络结构和超参数优化的算法框架

    本篇论文提出一种基于演化有向无环图的算法框架，自动生成高效的深度神经网络并优化其相关超参数，与已有文献中的搜索空间相比更具灵活性，能优化网络的结构和超参数，已经在时间序列预测基准测试中得到了实验结果的验证。

    Feb, 2023

  • 面向边缘端的协同多任务神经结构搜索优化稠密预测性能

    该论文提出了一种名为 EDNAS 的新型架构，通过多任务学习（MTL）和硬件感知神经架构搜索（NAS）的联合学习，成功地提高了边缘平台上稠密预测的准确性，并通过提出 JAReD 方法降低了输出噪声，并揭示了最佳架构。

    Oct, 2022

  • NAIS: 自主驾驶中的神经体系结构与实现搜索及其应用

    本论文提出一种名为 “神经结构和实现搜索（NAIS）” 的设计方法，该方法应用于深度神经网络 (DNN) 和实现优化方面，以提高开发生产率和效率。同时，论文还讨论了该方法在 FPGA 和 GPU 上的应用以及在自动驾驶领域的研究机会。

    Nov, 2019

  • 多硬件约束下增强神经架构搜索以在微型物联网设备上部署深度学习模型

    提出了一种在单个标准训练时间内将用户定义的内存和延迟约束融入不同 iable NAS 优化方法的新方法，该方法在五个物联网相关基准测试中进行了评估，包括 MLPerf Tiny 套件和 Tiny ImageNet，在仅一次搜索中降低了内存和延迟分别达到 87.4% 和 54.2%，同时保证 TinyML 的最新手动调优深度神经网络的非劣性精度。

    Oct, 2023