Sep, 2019

REQ-YOLO: 面向FPGA目标检测的资源感知，高效量化框架

HTML
PDF
TL;DR本文提出了REQ-YOLO，一种资源感知的系统化权重量化框架，以达到实时、高效实现对象检测的目的。采用块循环矩阵方法和交替方向乘子法，同时提供详细的硬件实现和设计优化，并呈现实验结果证明该框架可以显著压缩YOLO模型，同时引入极小的精度降低。
发现论文，激发创造
  • 自动流程实现压缩卷积神经网络，以实现 FPGA 上的高效边缘计算

    本文研究了一种从训练好的TensorFlow模型到基于FPGA的二值化卷积神经网络系统的自动流程，并在Cyclone-V FPGA设备上实现了二值化的YOLOV2，通过在目标检测上的实验，证明了与CPU和移动CPU平台相比，在FPGA上进行二值化幻化的模型大小和推理速度都有显著的性能提升。

    Dec, 2017

  • 低功耗物体检测的系统级解决方案

    本文提出了一种面向异构嵌入式设备的高效物体检测系统解决方案，其中包括量化网络和专门的加速器，并采用分组数据流策略将计算密集型的卷积操作映射到加速器中以提高效率。研究结果显示，在512x512输入大小的实际监控视频中，该系统的推理速度可以达到18 FPS，功耗仅为6.9W，并在PASCAL VOC 2012数据集上实现了66.4的mAP。

    Sep, 2019

  • 混合匹配：一种新的面向 FPGA 的深度神经网络量化框架

    该论文研究了基于FPGA的深度神经网络模型压缩方法——不同行采用不同的量化方案以充分利用FPGA中LUT和DSP的资源，提出了适用于高斯分布和均匀分布的两种量化方案，并提出了混合方案以保持或提高精度。

    Dec, 2020

  • FxP-QNet: 一种用于混合低精度DNN设计的训练后量化器，采用动态定点表示

    本文提出一种新的深度神经网络固定点量化框架(FxP-QNet)，该框架可以在保证网络精度的前提下，根据网络对低精度的需求动态地设计不同精度的量化级别。在基准测试(ImageNet)中，模型的内存需求得到了7.16倍-10.36倍的压缩，同时准确率只有不到2%的损失。

    Mar, 2022

  • TinyissimoYOLO: 一种量化、低内存占用、适用于低功耗微控制器的小型机器学习目标检测网络

    TinyissimoYOLO是一种高度灵活、量化、内存高效、超轻量级的目标检测网络，旨在实现毫瓦级嵌入式微控制器上的实时目标检测；通过量化网络架构实现实时目标检测，最多支持3个对象检测类，并可用于不同型号的微控制器。

    May, 2023

  • Q-YOLO：实时目标检测的高效推理

    本研究描述了一种低位量化方法来构建一个高效的单级检测器，称为Q-YOLO，有利于在资源受限的边缘设备上部署目标检测模型，从而实现减少计算和内存开销的实时检测。

    Jul, 2023

  • YOLOv5模型压缩方法综述

    通过分析网络剪枝和量化方法在YOLOv5上的应用实际结果，我们确定了在压缩YOLOv5方面采用剪枝和量化方法的适应性差距，并提供了未来在这个领域进一步探索的方向。

    Jul, 2023

  • SATAY: 用于在FPGA设备上加速YOLO模型的流处理架构工具流

    在这篇论文中，我们介绍了一种用于加速YOLO模型的流式体系结构工具流SATAY，通过采用流式体系结构设计和引入新的硬件组件，以适应低延迟应用的需求，我们在FPGA设备上实现了实时的边缘物体检测，并展示了与GPU设备相比竞争性能和能源特性优势的加速器设计。

    Sep, 2023

  • LeYOLO，用于目标检测的新型可扩展高效CNN架构

    基于 FLOP 的高效目标检测计算的神经网络架构设计选择和优化方法，LeYOLO 提供了在不同资源限制下性能优越的计算负载和准确率比例。

    Jun, 2024

  • YOLOv7量化研究

    YOLOv7模型的预训练权重上采用4位量化和不同粒度的组合，与全精度基线模型相比，均匀量化和非均匀量化分别实现了约3.92倍和3.86倍的内存节省，仅有2.5%和1%的精度损失。

    Jul, 2024