Sep, 2023

PolyLUT: 学习分段多项式用于超低延迟的 FPGA 基于 LUT 的推理

PDF
TL;DR使用多元多项式作为基本构建模块，我们提出了一种新的方法，通过软逻辑将多项式计算隐藏在 LUTs 内部，从而在 FPGA 部署上训练神经网络，实现相同的准确性，同时显著降低延迟和面积。我们在网络入侵检测、CERN 大型强子对撞机的喷气识别和 MNIST 数据集的手写数字识别三个任务中展示了这种方法的有效性。
fpgasdeep learning inferencelutsmultivariate polynomialsneural networks
发现论文，激发创造
  • 多项式 LUT-Add：基于 FPGA 的宽输入 LUT 推理

    通过引入 PolyLUT-Add 技术，结合多个 PolyLUT 子神经元进行相加以提高准确性，并描述了一个提高可扩展性的新型架构，实验结果表明，在相似准确度的情况下，PolyLUT-Add 相比传统方法能够减少 1.3-7.7 倍的 LUT 使用量并降低 1.2-2.2 倍的延迟。

    Jun, 2024

  • LUTNet：在 FPGA 软逻辑中重新思考推理

    该研究提出了一种新的硬件软件框架 LUTNet，可以利用 FPGA 中的 LUT 实现神经网络加速器的构建，可实现较大的修剪和面积节省。与其他模型比较，该框架达到了两倍的面积效率。

    Apr, 2019

  • LUTNet：学习 FPGA 配置以实现高效神经网络推理

    使用 LUTNet 框架可以在 FPGA 上构建面积高效、节能的神经网络加速器，实现了在几个标准网络模型的推断过程中比二元化神经网络实现更高的面积效率、相当的精度和更高的能量效率。

    Oct, 2019

  • NeuraLUT：在布尔可综合函数中隐藏神经网络密度

    利用全连接层内的浮点精度作为每个分区内的刚性稀疏性和量化，我们提出了将整个子网络映射到单个查找表（LUT）中的方法，并通过引入跳跃连接来解决梯度消失等挑战，从而显着提高延迟。

    Feb, 2024

  • 基于 FPGA 的深度神经网络在粒子物理中的快速推断

    介绍了基于 FPGA 进行神经网络推理的案例研究，其使用高级综合技术（HLS）构建机器学习模型，旨在为粒子物理学的高速实时事件处理提供支持，适用于很多场合，如寻找新的暗扇区粒子和测量希格斯玻色子等。

    Apr, 2018

  • LeFlow：灵活的 FPGA 张量流深度神经网络高层合成

    本文介绍一种基于 Tensorflow 的开源工具流，可以将数值计算模型映射到可合成硬件，从而生成深度神经网络。这种工具流使用户可以用很少的 Python 代码生成计算深度神经网络。

    Jul, 2018

  • 面向神经网络推理加速的编译器和 FPGA 叠加

    本研究介绍一种针对深度神经网络推理的覆盖层，通过引入一种轻量级的超长指令字（VLIW）网络支持控制和重新编程逻辑，以及实现了一个复杂的特定领域的图形编译器，以显著提高 CNNs/RNNs 的性能，最终在 Intel Arria 10 1150 上实现了～900 fps，并且对比以往研究，在性能方面有了巨大的进步。

    Jul, 2018

  • AttentionLut：基于注意力融合的实时图像增强的规范多重路由表

    提出 AttentionLut 框架用于实时图像增强，通过利用注意力机制生成自适应查找表，实验证明该方法在定量和定性上比现有方法有更好的增强性能。

    Jan, 2024

  • LogicNets: 极高吞吐量应用的协同设计神经网络和电路

    通过设计神经网络拓扑结构来直接映射高效 FPGA 实现的一种新方法。其中，硬件成本与神经元扇入呈指数级增长，通过使用稀疏和低比特激励量化来限制神经元扇入及减小逻辑深度和低 LUT 成本，可以实现具有高速低延时和高吞吐量的电路。应用于高能物理和网络入侵检测等任务，具有竞争性的准确性，每秒推断量可达数亿。

    Apr, 2020

  • 当深度学习遇上多面体理论：综述

    本篇论文调查了如何通过多面体理论以及线性规划技术对神经网络进行训练、验证和缩小规模，并概述了深度学习和神经网络中使用的关键词，如 ReLU（线性修正单元）等。

    Apr, 2023