Jun, 2017

ShiftCNN: 普遍的低精度卷积神经网络推理架构

PDF
TL;DR介绍了 ShiftCNN，这是一种基于 2 的 n 次幂权重表示的广义低精度卷积神经网络（CNN）推理架构，可应用于任何具有相对较小权重代码本的 CNN 架构，并且减少至少两个数量级的乘积运算，可实现的加速器有 FPGAs 或 ASICs。使用提议的量化算法，ImageNet 的广泛评估表明可以将最先进的 CNN 转换为 ShiftCNN 并且不到 1% 的准确率下降。
发现论文，激发创造
  • DeepShift：面向无乘法神经网络

    提出使用卷积位移和完全连接位移加速模型部署到边缘计算平台。在使用 DeepShift 模型转换和训练的预先训练的 ResNet18，ResNet50，VGG16 和 GoogleNet 模型中，可以获得接近甚至更高的准确率，并且 GPU 内核可以减少 25% 的延迟时间，具有较好的应用前景。

    May, 2019

  • 仅需简单卷积移位：设计高效的卷积神经网络用于图像分类

    本文介绍了一种基于 Sparse Shift Layer（SSL）的卷积神经网络构建方法，最终构建出只有 1x1 卷积层和少量位移操作的网络结构，通过优化和量化学习方法实现了极高的准确率和实用速度。

    Mar, 2019

  • DenseShift：面向准确和可迁移的低比特移位网络

    提出了一种名为 DenseShift 的神经网络，在低比特训练和转移学习方面具有优越的性能，通过零 - free 位移机制，新的度量标准和随机初始化策略，有效地简化了推理并提高了模型容量。

    Aug, 2022

  • DietCNN: 量化卷积神经网络的无乘法推理

    本文提出了一种基于表查找的 CNN 乘法运算替换方法，可以显著减少在嵌入式设备上进行推理时的能耗，并且适用于现有 CNN 操作机制，能够显著提高嵌入式系统中小型模型的资源利用和深度推理的延迟。

    May, 2023

  • 无别名卷积网络：通过多项式激活实现分数移不变性

    本文提出一种扩展的反锯齿方法，旨在解决由下采样层和非线性层引起的失真问题，从而创造真正无失真的平移不变的 CNN，并且在整数和分数（即次像素）平移方面具有不变性，因此在对抗平移的鲁棒性方面优于其他平移不变方法。

    Mar, 2023

  • CascadeCNN：将量化在卷积神经网络中的性能极限推至极致

    CascadeCNN 是一个自动化工具流程，用于推动任何给定的 CNN 模型的量化极限，旨在进行高吞吐率推理。通过在级联中使用低 - 高精度单元以及置信度评估单元，实现对任何给定的 CNN-FPGA 配对的定制。实验证明，所提出的工具流程在相同的资源预算和准确性下，可以使 VGG-16 的性能提升高达 55％，AlexNet 的性能提升高达 48％，而无需重新训练模型或访问训练数据。

    Jul, 2018

  • FPGA 上高吞吐量混合精度 CNN 加速器设计

    本文研究了深度神经网络在 FPGA 上的优化设计，提出使用多种精度量化来减少计算和数据传输成本，并成功实现了针对混合精度 CNN 的高效硬件加速器，能够达到高精度和高性能的权衡。

    Aug, 2022

  • 通过卷积反构建构建快速网络

    本研究旨在降低卷积神经网络的资源成本，提出了一种名为 active shift layer 的新型移位操作，实现了最优位移值，通过这种操作，提出了一种轻型快速网络，超越了现有的最先进的网络。

    May, 2018

  • YodaNN: 超低功耗二进制卷积神经网络加速架构

    本文介绍了一种用于二进制权重卷积神经网络的加速器，能够在 1.2V 下实现 1510 GOp/s 的运算，且在 0.6V 下消耗 895 μW 的功率。这个加速器比先前的最新技术在能量和面积效率方面都有很大的优势。

    Jun, 2016

  • 稀疏卷积神经网络的聚焦量化

    本文提出一种基于二次幂值的、专注于稀疏 CNN 的量化策略，并结合无损编码构建一种高压缩比、计算成本低、准确率几乎无损的压缩管线，在 ResNet-50 网络上实现 18.08x CR 的压缩效果，同时也证明更硬件有效。

    Mar, 2019