Oct, 2023

通过解决嵌入式 FPGA 中 LSTM 单元的吞吐量瓶颈来增强能效

PDF
TL;DR为了处理物联网 (IoTs) 中的传感器数据，本研究提出了一种嵌入式深度学习的重要技术，即 LSTM 细胞的优化，旨在实现端设备上的高效能推断。通过以交通速度预测为案例研究，利用优化的 LSTM 细胞的简单 LSTM 模型在 extit {XC7S15} FPGA 芯片上实现了每秒 17534 次的推断，每次推断仅消耗 3.8 微焦耳的能量。与现有方法相比，其吞吐量至少提高了 5.4 倍，能量效率提高了 1.37 倍。
sensor datainternet of thingsembedded deep learninglstm cell optimisationenergy-efficient inference
发现论文，激发创造
  • 在计算时间约束下，基于 FPGA 的近似 LSTM

    本文介绍了一种近似计算方案，结合迭代低秩压缩和剪枝以及一种新型 FPGA 基于的 LSTM 结构，以部署计算时间受限的应用程序为挑战，将其优化和配置成高性能的 LSTM 执行体系框架。在真实生活中的图像字幕应用的定量评估表明，该方法需要的时间比基准方法少达 6.5 倍，同时在相同的计算时间限制下，实现了平均 25 倍的应用级别精度。

    Jan, 2018

  • C-LSTM：利用结构压缩技术在 FPGAs 上实现高效 LSTM

    本文提出了一种基于块循环矩阵的压缩方案，用于改善长短时记忆网络的 FPGA 实现效率，并将该方法应用于一个名为 C-LSTM 的综合框架，其精度损失很小。

    Mar, 2018

  • 实现边缘智能动态卷积神经网络推理的探索

    本研究提出了动态流式传输模型参数和基于库的方法来实现传统 CNN 架构的可扩展和动态分布式 CNN 推断，利用部分重构技术提高了资源受限的边缘设备的性能，并在 Xilinx PYNQ-Z2 板上实现了 LeNet-5 CNN 模型，具有 92％，86％和 94％的分类准确率。

    Feb, 2022

  • 用于物联网的可重构流式深度卷积神经网络加速器

    该研究提出了一种流式硬件加速器，通过避免不必要的数据移动和独特的滤波器分解技术，优化了能源效率，并支持任意卷积窗口大小和使用并行池化单元计算最大池化功能，进而实现了吞吐量的提高和较高的能效比，可在智能物联网设备中应用。

    Jul, 2017

  • E2-Train: 基于 E2 方法训练最先进的 CNN 并节省 80% 以上的能量

    通过三种方法 (stochastic mini-batch dropping, selective layer update, sign prediction) 来减少训练过程中的计算并实现在资源受限的设备上进行训练，该方法能够在保持准确率损失相对较小 (不超过 2%) 的前提下，实现能耗降低超过 90%。

    Oct, 2019

  • 基于 FPGA 的稀疏 LSTM 高效语音识别引擎

    为提高语音识别模型的准确度、节约能源和降低总拥有成本，本文提出了一种基于负载均衡感知修剪方案对 Long Short-Term Memory 模型进行压缩，以及配合压缩模型的调度方案，并设计了一种能够直接在压缩模型上运行的硬件结构 Efficient Speech Recognition Engine。实验结果表明，该方法在能效、执行速度等方面优于 CPU 和 GPU 实现方式。

    Dec, 2016

  • 基于 FPGA 的循环神经网络硬件实现

    本文利用 Xilinx 公司的可编程逻辑器件 Zynq 7020 FPGA，实现了基于 Long-Short Term Memory（LSTM）的循环神经网络（RNN）硬件加速，并测试了该实现在字符级语言模型上的表现。结果表明，相较于 Zynq 7020 FPGA 中内嵌的 ARM CPU，该实现快了超过 $21$ 倍，并具有潜在的扩展到未来移动设备的应用前景。

    Nov, 2015

  • 利用 FPGA 能力加速生物医学计算

    本研究基于多种高级神经网络结构，包括卷积神经网络、循环神经网络、LSTM 和深度置信网络，利用可编程门阵列（FPGA）进行 ECG 信号分析，探索开发基于 PYNQ Z1 板的自定义张量计算单元（TCU）加速器，为各种应用程序优化神经网络性能提供指导。

    Jul, 2023

  • EF-Train: FPGA 上通过数据重塑实现高效的 CNN 设备端训练以进行在线适应或个性化

    本研究设计的 EF-Train 是一种高效的 DNN 训练加速器，通过数据重塑，并建立自动计算和内存资源调度的分析模型，在低功耗边缘级 FPGA 上实现端到端的训练，最终达到了 46.99 GFLOPS 和 6.09GFLOPS/W 的吞吐量和能量效率。

    Feb, 2022

  • 使用遗传算法改进 CNN 加速器的层间流水线

    通过图形排序的遗传算法，我们开发了一种针对卷积神经网络的层融合技术，减少了边缘平台上的数据传输，从而提高了能效和能延迟乘积（EDP），在类似 SIMBA 移动架构上的 MobileNet-v3 中实现了 1.8 倍的能效提升和 1.9 倍的 EDP 改善。我们的方法对 SIMBA 平台和 Eyeriss 平台的工作负载性能一致改善，平均 EDP 改善 1.4 倍和 1.12 倍。

    Nov, 2023