Jul, 2018

XNOR 神经引擎：一种用于 21.6 fJ/op 的硬件加速器 IP，用于二进制神经网络推理

PDF
TL;DR本文介绍了一种以 XNOR 神经引擎为核心的全数字可配置硬件加速器 IP，它能够实现卷积和稠密层的全自动计算，还能够与 MCU 的内核协同工作，实现更复杂的行为。该系统的能量成本仅为每个二进制操作 21.6fJ，足够执行最先进的 BNN 拓扑结构。
binary neural networksxnor neural enginehardware acceleratorenergy-efficientmicrocontroller unit
发现论文，激发创造
  • XNORBIN：一款用于二值卷积神经网络的 95 TOp/s/W 硬件加速器

    研究表明，使用极端量化可以将 CNN 的权重和中间特征图二值化，从而节省内存并将能量密集型的乘积操作转换为 XNOR 和 popcount 操作，我们提出的二值 CNN 加速器 XNORBIN 在低功率嵌入式系统中具有紧密耦合的计算和内存，能够实现 95 TOp/s/W 的能量效率和 2.0 TOp/s/MGE 的面积效率。

    Mar, 2018

  • 使用二进制卷积神经网络进行 ImageNet 分类的 XNOR-Net

    本文提出了两种卷积神经网络的高效近似方案：二进制权重网络和 XNOR - 网络，其中 XNOR - 网络既将卷积层输入又将滤波器二值化，主要利用二值运算来近似卷积，这使得卷积速度快 58 倍且内存占用仅为原来的 1/32，而且其分类性能在 ImageNet 数据集上也优于其他网络二值化方法。

    Mar, 2016

  • XNOR-Net++: 二值神经网络的改进

    本文提出了一种改进的训练算法，用于针对二元神经网络的权重和激活二进制数的训练，提出了一种新的比 XNOR-Net 更优的方法，通过反向传播学习判别式融合激活和权重缩放因子。实验表明，与分析计算的结果相比，我们的方法更加准确，且在相同的计算预算下，可在 ImageNet 分类任务中提供高达 6% 的准确性提升。

    Sep, 2019

  • Xcel-RAM：高吞吐 SRAM 计算阵列中的二值神经网络加速

    本文提出了一种在 SRAM 阵列内加速二进制卷积的方法，包括基于电荷共享的 XNOR 和 popcount 运算以及在读位线上添加开关实现 SRAM 阵列分段，采用这种方法可以大大改善整个系统的吞吐量和能耗效率。

    Jul, 2018

  • YodaNN: 超低功耗二进制卷积神经网络加速架构

    本文介绍了一种用于二进制权重卷积神经网络的加速器，能够在 1.2V 下实现 1510 GOp/s 的运算，且在 0.6V 下消耗 895 μW 的功率。这个加速器比先前的最新技术在能量和面积效率方面都有很大的优势。

    Jun, 2016

  • 使用神经工程框架的神经形态硬件架构用于模式识别

    我们提出了一个使用神经工程框架（NEF）在现场可编程门阵列（FPGA）上实现大规模神经网络以进行实时模式识别的硬件架构。该架构不仅适用于手写字体识别，还可以作为各种模式（如语音和图像）的极快速度的模式识别处理器，能够在每秒处理 512 万个数字。

    Jul, 2015

  • 基于 RISC-V 工具链和敏捷开发的开源神经形态处理器

    本文提出了一种低功耗神经形态计算处理器 —— 文曲星 22A，采用了 RISC-V SNN 扩展指令版本 1.0、简化漏电积分 - 火灾（LIF）模型和二元随机脉冲时序相关可塑性（STDP）等技术，将 SNN 计算单元集成到通用 CPU 流水线中，实现了低功耗计算，并将该处理器应用于 MNIST 数据集识别任务上，结果表明 Wenquxing 22A 相较 ODIN 加速解决方案能够提高 5.13 倍的能源费用效率，同时保持了较高的分类精度。

    Oct, 2022

  • 二进制神经网络中的数据流优化

    通过引入剪裁块，减少二元神经网络层的数据宽度和内部累加器大小，同时优化批标准化层的实现和 ARM 指令集的二值化卷积，提高了推理速度和准确度。

    Apr, 2023

  • xTern: 在基于 RISC-V 的边缘系统上的高能效三值神经网络推理

    Ternary neural networks offer superior accuracy-energy trade-off, and the xTern extension of the RISC-V instruction set architecture accelerates TNN inference on general-purpose cores, achieving higher throughput, improved energy efficiency, and higher CIFAR-10 classification accuracy.

    May, 2024

  • BMXNet: 一种基于 MXNet 的开源二值神经网络实现

    该研究介绍了一个基于 MXNet 的开源 BNN 库 BMXNet，可在 GPU 和 CPU 模式下工作，并支持 XNOR-Networks 和 Quantized Neural Networks，旨在通过二进制运算显著减少内存大小和访问，提高 Deep Learning 模型在低功耗设备上的效率和降低能量消耗，经过广泛的实验验证了其实现的高效性和有效性。

    May, 2017