Feb, 2022

BED：一种针对边缘设备的实时物体检测系统

PDF
TL;DR在 MAX78000DNN 加速器上，我们开发了适用于边缘设备的目标检测系统 (BED)，采用模型训练、量化、综合和部署的简明、有效和详细的解决方案，可以在 300 KB 微小的 DNN 模型下实现准确检测，仅需 91.9ms 的推理时间和 1.845mJ 的能量，并在实时 YouTube 上提供检测。
deep neural networksedge devicesobject detectiondnn acceleratorreal-time detection
发现论文，激发创造
  • 实时嵌入式对象检测基准测试框架

    本文提出了一种基于 MQTT 协议的轻量级接口框架，可用于测量目标检测性能、运行时间和能量效率，特别适用于限制硬件上的视频流应用，为优化 DNNs 提供深入的见解。

    Apr, 2023

  • 边缘设备上实现深度学习

    本论文探讨了 DNN 在资源受限的边缘设备上部署的优化问题，并研究了四种边缘智能场景下的深度学习方法，通过减少 DNN 冗余度来达到资源消耗与模型准确度之间的平衡。

    Oct, 2022

  • 基于轻量级 CNN 的边缘服务实现的实时人体检测

    介绍了一种轻量级的卷积神经网络算法 (LCNN)，通过将分类器的搜索空间缩小到监视视频帧中的人物对象，提出的 LCNN 算法能够在边缘设备上以可承受的计算工作量检测行人.

    Apr, 2018

  • 边缘智能：设备 - 边缘协同，按需深度学习模型协同推理

    提出了 Edgent，这是一种协作和按需的 DNN 合作推理框架，其旨在通过在设备和边缘之间自适应地分配 DNN 计算来提高实时 DNN 推理的性能，并通过在适当的中间 DNN 层进行早期退出来加速 DNN 推理。

    Jun, 2018

  • 边缘人工智能：通过边缘计算加速深度神经网络推理

    该论文提出了一种基于边缘计算的 DNN 协同推理框架 Edgent，通过 DNN 分区和权衡设备的云资源和临近边缘资源来协调实时的 DNN 推理，进而降低计算延迟，实现低延迟边缘智能处理。

    Oct, 2019

  • 基于边缘 AI 设备的实时驾驶员监控系统

    本研究报告描述了一个实时自动驾驶员监控系统，该系统基于硬件加速器边缘设备运行。使用红外摄像头记录驾驶员镜头，通过模型的手术使深度学习模型在边缘设备上运行，最终在 TI-TDA4VM 边缘设备上实现了 63 帧每秒（FPS）。

    Apr, 2023

  • 低功耗物体检测的系统级解决方案

    本文提出了一种面向异构嵌入式设备的高效物体检测系统解决方案，其中包括量化网络和专门的加速器，并采用分组数据流策略将计算密集型的卷积操作映射到加速器中以提高效率。研究结果显示，在 512x512 输入大小的实际监控视频中，该系统的推理速度可以达到 18 FPS，功耗仅为 6.9W，并在 PASCAL VOC 2012 数据集上实现了 66.4 的 mAP。

    Sep, 2019

  • 边缘端物体检测的增量式知识迁移技术

    本论文提出一种系统级设计，将浅层神经网络在用户端设备上部署以检测观察环境中的对象，同时实施知识迁移机制，以在目标域发生变化时将 DNN 知识用于更新 SHNN 模型，实验表明与在用户端设备上运行深度模型相比，能够提高用户端设备的能源消耗和推断时间分别达到 78% 和 71%。

    Apr, 2020

  • 面向运行时优化的边缘人工智能设备深度神经网络目标检测部署

    研究了两种不同的物体检测网络在嵌入式 AI 平台中的部署和运行环境，针对 TensorRT 和 TorchScript 两个库进行了 Runtime 和性能方面的对比分析，结果表明量化技术显著提高了部署效率而对检测性能的影响较小。

    Aug, 2021

  • daBNN: 基于 ARM 设备的二值神经网络超快推断框架

    本文提出了 daBNN 这一快速推理框架，基于二进制神经网络，通过特定的速度优化和内存优化策略，可以有效地在 ARM 设备上运行，并在单个二值卷积上比最近的 BMXNet 布尔神经网络推理框架快 7 倍到 23 倍，并在 Bi-Real Net 18 上比 BMXNet 快 6 倍。

    Aug, 2019