NullHop：基于特征图稀疏表示的灵活卷积神经网络加速器

Jun, 2017

NullHop：基于特征图稀疏表示的灵活卷积神经网络加速器

NullHop: A Flexible Convolutional Neural Network Accelerator Based on Sparse Representations of Feature Maps

Alessandro Aimar, Hesham Mostafa, Enrico Calabrese, Antonio Rios-Navarro, Ricardo Tapiador-Morales...

TL;DR研究了一种灵活有效的卷积神经网络加速器结构NullHop，采用神经元激活的稀疏特性加速计算并降低内存需求，可用于低功耗和低延迟应用，实现了98%的MAC单元利用率，达到了超过3TOp/s/W的功率效率，并成功将其FPGA实现与神经形态事件相机接口进行了实时交互演示。

Abstract

convolutional neural networks (CNNs) have become the dominant neural network architecture for solving many state-of-the-art (SOA) visual processing tasks. Even though Graphical Processing Units (GPUs) are most often used in training and deploying CNNs, their power consumption becomes a

发现论文，激发创造

YodaNN: 超低功耗二进制卷积神经网络加速架构

本文介绍了一种用于二进制权重卷积神经网络的加速器，能够在1.2V下实现1510 GOp/s的运算，且在0.6V下消耗895 μW的功率。这个加速器比先前的最新技术在能量和面积效率方面都有很大的优势。

Jun, 2016

FINN: 快速可伸缩二值神经网络推理框架

本文介绍FINN，一种用于构建快速、灵活的FPGA加速器的框架，该框架使用灵活的异构流式架构，并利用一组优化，将二值化神经网络映射到硬件上，从而实现完全连接、卷积和池化层，同时满足用户提供的吞吐量要求。在低于25W的总系统功率下，该平台在MNIST数据集上表现出高达1230万次图像分类每秒，0.31微秒的延迟和95.8％的准确率，在CIFAR-10和SVHN数据集上表现出21906次和283微秒的延迟、80.1％和94.9％的准确率，这是目前这些基准测试中报道的最快的分类率。

Dec, 2016

Arria 10 上的 OpenCL(TM) 深度学习加速器

利用深度学习加速器（DLA）和 Winograd 变换技术，我们在 Intel Arria 10 设备上实现了1020图像/秒的性能，比 FPGA 上最先进的技术快10倍，同时也具有5.8倍的更高效率，并且与 nVidia TitanX GPU 上基于 AlexNet 的最佳公开实现比 23 img/s/W 具有竞争力。

Jan, 2017

SCNN：压缩稀疏卷积神经网络加速器

该论文介绍了一种名为Sparse CNN的卷积神经网络加速器体系结构，它可以通过利用CNN训练期间的网络修剪所产生的零值权重以及推理期间常见的ReLU算子产生的零值激活来提高性能和能源效率，从而减少数据传输和存储要求，并通过一种新型数据流方式有效地传递权重和激活值到乘法器阵列。该加速器在现代神经网络上可以将性能和能源效率分别提升2.7倍和2.3倍。

May, 2017

XNORBIN：一款用于二值卷积神经网络的95 TOp/s/W硬件加速器

研究表明，使用极端量化可以将CNN的权重和中间特征图二值化，从而节省内存并将能量密集型的乘积操作转换为XNOR和popcount操作，我们提出的二值CNN加速器XNORBIN在低功率嵌入式系统中具有紧密耦合的计算和内存，能够实现95 TOp/s/W的能量效率和2.0 TOp/s/MGE的面积效率。

Mar, 2018

面向移动和嵌入式应用的超高能效CNN领域特定加速器，功率为9.3TOPS/瓦

该论文介绍了一种用于实现基于卷积神经网络的计算机视觉应用的高效领域特定架构（DSA），并利用DSA设计了一个能够高效地支持移动设备和嵌入式系统的加速器，可用于实时图像分类和场景识别等实际应用。

Apr, 2018

嵌入式FPGA卷积神经网络加速器的算法硬件协同设计

本文提出了一种算法-硬件协同设计的方法，开发了一种名为Synetgy的ConvNet加速器和一种新颖的ConvNet模型DiracDeltaNet，可以高效地在FPGA上运行，得到了更高的准确率和更快的推理速度。

Nov, 2018

unzipFPGA: 利用实时生成的权重增强基于FPGA的CNN引擎

本文研究了在FPGA-based CNNs中采用一种称为on-the-fly的方法来预处理卷积核的设计，提出了解决方案并开发了一个名为unzipFPGA的框架，通过量化评估得出结论：在容约束带宽和优化现状和pruned CNN的引擎下，unzipFPGA的平均加速比为2.14倍，性能密度高达现有技术的3.69倍。

Mar, 2021

SNN和CNN FPGA实现的定量比较：是否使用尖峰？

本文研究卷积神经网络和脉冲神经网络在FPGA加速器上的性能和能量效率，探究SNN是否能实现减少能量要求等期望，结果发现在复杂的应用场景如SVHN和CIFAR-10上，SNN的能量和效率优势并不明显，而在小规模MNIST等基准测试中，两者基本相当。

Jun, 2023

通过即时权重生成在CNN引擎中缓解内存瓶颈效应

本文介绍了一种名为unzipFPGA的CNN推断系统，它通过引入权重生成模块实现了芯片上的实时权重生成，为小容量内存限制的层提供了更好的支持；此外，还介绍了一种自动化硬件感知的方法，将权重生成机制与目标CNN设备进行搭配，从而实现了更好的准确性和性能平衡；最后，还引入了一种输入选择性处理单元（PE）设计，平衡了子优化映射层的负载。该提议的框架在相同功耗约束下，与高度优化的GPU设计相比，实现了平均2.57倍的性能效率提升，同时在各种最先进的基于FPGA的CNN加速器中具有高达3.94倍的性能密度。

Jul, 2023