MMAug, 2021

BEANNA: 用于神经网络加速的二进制能力架构

PDF
TL;DR该研究提出并评估了一种用于神经网络加速的二进制启用体系结构（BEANNA），该体系结构采用 16x16 systolic array 矩阵乘法器和可同时处理浮点数和二进制乘加的处理单元。该体系结构可以在高精度浮点数和二进制网络层之间无缝切换，并在混合网络上得到了显著的加速和能耗和内存降低。
hardware designneural network accelerationbinary-enabled architecturemachine learningembedded devices
发现论文，激发创造
  • YodaNN: 超低功耗二进制卷积神经网络加速架构

    本文介绍了一种用于二进制权重卷积神经网络的加速器，能够在 1.2V 下实现 1510 GOp/s 的运算，且在 0.6V 下消耗 895 μW 的功率。这个加速器比先前的最新技术在能量和面积效率方面都有很大的优势。

    Jun, 2016

  • daBNN: 基于 ARM 设备的二值神经网络超快推断框架

    本文提出了 daBNN 这一快速推理框架，基于二进制神经网络，通过特定的速度优化和内存优化策略，可以有效地在 ARM 设备上运行，并在单个二值卷积上比最近的 BMXNet 布尔神经网络推理框架快 7 倍到 23 倍，并在 Bi-Real Net 18 上比 BMXNet 快 6 倍。

    Aug, 2019

  • 可再配置逻辑上二值神经网络的扩展

    该论文研究了如何在 BNN 网络中使用 padding 提高分类准确率的同时，仍然保持 1 位数据通路。作者展示了该方法的灵活性和可扩展性，并在 ADM-PCIE-8K5 平台上实现了大型 BNN 分类的快速和精确。

    Jan, 2017

  • 二进制神经网络中的数据流优化

    通过引入剪裁块，减少二元神经网络层的数据宽度和内部累加器大小，同时优化批标准化层的实现和 ARM 指令集的二值化卷积，提高了推理速度和准确度。

    Apr, 2023

  • 二进制集成神经网络：每个网络的比特数更多还是每个比特的网络数更多？

    对二元神经网络进行了广泛的实验以了解其表示能力、速度及偏差 / 方差。提出了一种二元集成神经网络，通过集成方法来提高二元神经网络的性能，从而更快、更鲁棒，甚至能够超越具有相同结构的完全精确的浮点数网络的准确性。

    Jun, 2018

  • 二值化神经网络

    本文介绍了一种对二值化神经网络进行训练的方法，并在 Torch7 和 Theano 两个框架下，对 MNIST、CIFAR-10 和 SVHN 数据集进行了实验，取得了近乎领先水平的结果。通过在前向传递过程中使用二值化的权重和激活值，可以大幅减少内存消耗，用位运算取代大多数算术运算，并且使用二进制矩阵乘法 GPU 内核可以比未优化的 GPU 内核快 7 倍，而不会损失分类准确度。

    Feb, 2016

  • PhoneBit: 移动手机高效 GPU 加速二值神经网络推断引擎

    本文提出了 PhoneBit，一种针对基于 Android 的移动设备的 GPU 加速二值神经网络推断引擎，旨在通过运用区别于桌面平台的架构，提出操作级优化方案，以挖掘移动 GPU 的计算能力，实现二值卷积的高效率，从而取得了相比移动设备上其它顶尖框架更为显著的速度加速和能量效率改进。

    Dec, 2019

  • XNORBIN：一款用于二值卷积神经网络的 95 TOp/s/W 硬件加速器

    研究表明，使用极端量化可以将 CNN 的权重和中间特征图二值化，从而节省内存并将能量密集型的乘积操作转换为 XNOR 和 popcount 操作，我们提出的二值 CNN 加速器 XNORBIN 在低功率嵌入式系统中具有紧密耦合的计算和内存，能够实现 95 TOp/s/W 的能量效率和 2.0 TOp/s/MGE 的面积效率。

    Mar, 2018

  • BitGNN: 在 GPU 上释放二值图神经网络的性能潜能

    本研究提出了一种二进制图神经网络的高效推理后端的重新设计，旨在充分地发挥加速器硬件性能潜力；在实际图形中，使用 GCNs、GraphSAGE 和 GraphSAINT 的结果表明，使用相同的精度，所提出的技术比最先进的二进制 GNN 实现快 8-22 倍。

    May, 2023

  • FINN: 快速可伸缩二值神经网络推理框架

    本文介绍 FINN，一种用于构建快速、灵活的 FPGA 加速器的框架，该框架使用灵活的异构流式架构，并利用一组优化，将二值化神经网络映射到硬件上，从而实现完全连接、卷积和池化层，同时满足用户提供的吞吐量要求。在低于 25W 的总系统功率下，该平台在 MNIST 数据集上表现出高达 1230 万次图像分类每秒，0.31 微秒的延迟和 95.8％的准确率，在 CIFAR-10 和 SVHN 数据集上表现出 21906 次和 283 微秒的延迟、80.1％和 94.9％的准确率，这是目前这些基准测试中报道的最快的分类率。

    Dec, 2016