f-CNN$^{ ext{x}}$: 基于FPGA的多CNN应用映射工具流

May, 2018

f-CNN$^{ ext{x}}$: 基于FPGA的多CNN应用映射工具流

f-CNN$^{\text{x}}$: A Toolflow for Mapping Multiple Convolutional Neural Networks on FPGAs

Stylianos I. Venieris, Christos-Savvas Bouganis

TL;DR该论文提出了一种自动化设计流程f-CNN$^{ ext{x}}$，用于在FPGA上映射多个CNN，包括一个新的多CNN硬件架构和自动化设计空间探索方法，以考虑每个模型的性能要求来分配计算资源和生成可合成加速器。此外，f-CNN$^{ ext{x}}$采用一种新的调度算法，可以缓解CNN之间的内存带宽争用限制，并维持架构的高利用率。实验评估表明，f-CNN$^{ ext{x}}$的设计比不考虑争用的FPGA映射效果提高了多达50％，并为多CNN系统提供了高达6.8倍的性能功耗比。

Abstract

The predictive power of convolutional neural networks (CNNs) has been an integral factor for emerging latency-sensitive applications, such as autonomous drones and vehicles. Such systems employ multiple CNNs, each one trained for a particular task. The efficient mapping of multiple CNN

发现论文，激发创造

咖啡因 FPGA：用于卷积神经网络的 FPGA 框架

本文介绍了一种修改版CNN框架Caffe，该框架支持FPGA实现，并使用Xilinx SDAccel环境实现了基于FPGA的Winograd卷积引擎，能够与其他运行在主机处理器上的层一起运行几个流行的CNN模型，取得了50 GFLOPS的成果。

Sep, 2016

Arria 10 上的 OpenCL(TM) 深度学习加速器

利用深度学习加速器（DLA）和 Winograd 变换技术，我们在 Intel Arria 10 设备上实现了1020图像/秒的性能，比 FPGA 上最先进的技术快10倍，同时也具有5.8倍的更高效率，并且与 nVidia TitanX GPU 上基于 AlexNet 的最佳公开实现比 23 img/s/W 具有竞争力。

Jan, 2017

NullHop：基于特征图稀疏表示的灵活卷积神经网络加速器

研究了一种灵活有效的卷积神经网络加速器结构NullHop，采用神经元激活的稀疏特性加速计算并降低内存需求，可用于低功耗和低延迟应用，实现了98%的MAC单元利用率，达到了超过3TOp/s/W的功率效率，并成功将其FPGA实现与神经形态事件相机接口进行了实时交互演示。

Jun, 2017

fpgaConvNet：在嵌入式FPGA上映射多样化卷积神经网络的工具流

本文提出了一个使用Synchronous Dataflow（SDF）模型的端到端框架fpgaConvNet，该框架可用于将卷积神经网络(ConvNets)映射到FPGAs上，实现了对性能度量的有效优化，并在嵌入式环境中将性能提高了最高6.65x。

Nov, 2017

自动流程实现压缩卷积神经网络，以实现 FPGA 上的高效边缘计算

本文研究了一种从训练好的TensorFlow模型到基于FPGA的二值化卷积神经网络系统的自动流程，并在Cyclone-V FPGA设备上实现了二值化的YOLOV2，通过在目标检测上的实验，证明了与CPU和移动CPU平台相比，在FPGA上进行二值化幻化的模型大小和推理速度都有显著的性能提升。

Dec, 2017

用于在FPGAs上映射卷积神经网络的工具流：调查和未来方向

本文综述了现有的CNN-to-FPGA工具流，包括应用支持、架构选择、设计空间探索方法和性能等关键特性的比较研究，提出了最新CNN算法研究引入的主要挑战和目标，并提出了一种统一的评估方法，旨在全面、完整和深入地评估CNN-to-FPGA工具流。

Mar, 2018

unzipFPGA: 利用实时生成的权重增强基于FPGA的CNN引擎

本文研究了在FPGA-based CNNs中采用一种称为on-the-fly的方法来预处理卷积核的设计，提出了解决方案并开发了一个名为unzipFPGA的框架，通过量化评估得出结论：在容约束带宽和优化现状和pruned CNN的引擎下，unzipFPGA的平均加速比为2.14倍，性能密度高达现有技术的3.69倍。

Mar, 2021

实现边缘智能动态卷积神经网络推理的探索

本研究提出了动态流式传输模型参数和基于库的方法来实现传统CNN架构的可扩展和动态分布式CNN推断，利用部分重构技术提高了资源受限的边缘设备的性能，并在Xilinx PYNQ-Z2板上实现了LeNet-5 CNN模型，具有92％，86％和94％的分类准确率。

Feb, 2022

fpgaHART: 一种用于将 3D CNNs 加速到 FPGA 上的吞吐量导向的 HAR 工具流

研究提出一种工具流程，将 3D CNN 模型优化到 FPGA 设备上，采用同步数据流图来模拟设计并引入转换来拓展和探索设计空间，以实现高吞吐量设计。在多个 FPGA 设备上评估了各种 3D CNN 模型，证明了与早期手动调整和特定模型的设计相比，该工具流程具有竞争性的性能。

May, 2023

通过即时权重生成在CNN引擎中缓解内存瓶颈效应

本文介绍了一种名为unzipFPGA的CNN推断系统，它通过引入权重生成模块实现了芯片上的实时权重生成，为小容量内存限制的层提供了更好的支持；此外，还介绍了一种自动化硬件感知的方法，将权重生成机制与目标CNN设备进行搭配，从而实现了更好的准确性和性能平衡；最后，还引入了一种输入选择性处理单元（PE）设计，平衡了子优化映射层的负载。该提议的框架在相同功耗约束下，与高度优化的GPU设计相比，实现了平均2.57倍的性能效率提升，同时在各种最先进的基于FPGA的CNN加速器中具有高达3.94倍的性能密度。

Jul, 2023