ICCVAug, 2021

面向运行时优化的边缘人工智能设备深度神经网络目标检测部署

PDF
TL;DR研究了两种不同的物体检测网络在嵌入式 AI 平台中的部署和运行环境，针对 TensorRT 和 TorchScript 两个库进行了 Runtime 和性能方面的对比分析，结果表明量化技术显著提高了部署效率而对检测性能的影响较小。
deep neural networksautomotive scene understandingobject detectionedge ai platformruntime optimization
发现论文，激发创造
  • 实时嵌入式对象检测基准测试框架

    本文提出了一种基于 MQTT 协议的轻量级接口框架，可用于测量目标检测性能、运行时间和能量效率，特别适用于限制硬件上的视频流应用，为优化 DNNs 提供深入的见解。

    Apr, 2023

  • 边缘设备上实现深度学习

    本论文探讨了 DNN 在资源受限的边缘设备上部署的优化问题，并研究了四种边缘智能场景下的深度学习方法，通过减少 DNN 冗余度来达到资源消耗与模型准确度之间的平衡。

    Oct, 2022

  • 多个领域实时物体检测网络的综合研究：调查

    通过在多个实时检测器及数据集上进行综合研究，本研究对图像大小、置信阈值、架构层数等多种变量的影响进行了分析，研究了检测网络在分布偏移、自然破坏和对抗攻击等方面的鲁棒性，并提出了对 HTTP/3 实现的区分服务（DiffServ）传输的改进。

    Aug, 2022

  • 基于轻量级 CNN 的边缘服务实现的实时人体检测

    介绍了一种轻量级的卷积神经网络算法 (LCNN)，通过将分类器的搜索空间缩小到监视视频帧中的人物对象，提出的 LCNN 算法能够在边缘设备上以可承受的计算工作量检测行人.

    Apr, 2018

  • BED：一种针对边缘设备的实时物体检测系统

    在 MAX78000DNN 加速器上，我们开发了适用于边缘设备的目标检测系统 (BED)，采用模型训练、量化、综合和部署的简明、有效和详细的解决方案，可以在 300 KB 微小的 DNN 模型下实现准确检测，仅需 91.9ms 的推理时间和 1.845mJ 的能量，并在实时 YouTube 上提供检测。

    Feb, 2022

  • 在 NVIDIA Jetson Nano 上为实时系统进行深度学习模型基准测试：一项实证研究

    研究了在低计算能力和低内存设备上部署复杂的深度学习模型的优化方法以提高推断速度，证明了硬件特定的模型优化能够有效降低能源消耗和碳足迹。

    Jun, 2024

  • LCDet: 用于嵌入式系统目标检测的低复杂度全卷积神经网络

    本文提出了一种 LCDet 的全卷积神经网络，旨在用于嵌入式系统上的对象检测。作者设计并开发了一个端到端的 TensorFlow (TF) 模型，并采用 8 位量化技术。实验结果显示，该模型在保持准确率的同时，将模型大小和内存带宽分别减少了 3 倍和 4 倍，可以在嵌入式系统上实现。

    May, 2017

  • ThunderNet：面向实时通用物体检测

    本研究针对移动平台上实时通用物体检测这一计算机视觉任务存在的计算成本巨大的问题，调查了两阶段检测器在实时检测方面的有效性，并提出了一个名为 ThunderNet 的轻量级两阶段检测器，相对于单阶段检测器，仅使用了 40％的计算且取得了优越的性能，在 ARM 平台上实现了 24.1fps 的实时检测。

    Mar, 2019

  • 边缘端物体检测的增量式知识迁移技术

    本论文提出一种系统级设计，将浅层神经网络在用户端设备上部署以检测观察环境中的对象，同时实施知识迁移机制，以在目标域发生变化时将 DNN 知识用于更新 SHNN 模型，实验表明与在用户端设备上运行深度模型相比，能够提高用户端设备的能源消耗和推断时间分别达到 78% 和 71%。

    Apr, 2020

  • 选取 PointPillars 主干类型以实现快速准确的 LiDAR 物体检测

    本研究探讨了深度卷积神经网络背骨选择对于基于 LiDAR 传感器数据的 3D 目标检测精度和计算速度的影响，测试了 10 种不同的卷积神经网络架构，并在保证检测效率（以 mAP 度量）的前提下，显著提高 LiDAR 点云中 3D 物体检测速度。

    Sep, 2022