Jul, 2022

光子可重构加速器用于混合大小张量 CNN 高效推理

PDF
TL;DR本文提出了一种引入可重构性的基于 Photonic Microring Resonator 的 CNN 加速器，以动态最大化加速器硬件组件与处理使用硬件组件的 CNN 张量之间的大小兼容性，从而提高并行性、灵活性、效率、速度和整体能效，并在四个现代 CNN 的推理中对其进行了评估，结果表明其对于先前工作中的 MRR 加速器在 FPS 和 FPS/W 方面分别提高了 1.8 倍和 1.5 倍。
发现论文，激发创造
  • 基于微环的非相干光子 GEMM 加速器的比较分析

    这篇论文研究了基于微环共振器 (MRR) 的模拟光子结构，在深度神经网络中加速通用矩阵乘法 (GEMM) 并具有出色的吞吐量和能效。作者通过分析了调制 - 聚合 - 分拆 - 加权 (MASW)、聚合 - 分拆 - 调制 - 加权 (ASMW) 和分拆 - 调制 - 加权 - 聚合 (SMWA) 的三种不同调制顺序，发现这些组织在电路级的串扰噪声和光信号损失以及系统级的吞吐量和能量区域能够带来不同程度的影响。评估结果显示，相比于 ASMW 和 MASW，SMWA 组织在平均下达到了分别多达 4.4 倍、5 倍和 5.2 倍的吞吐量、能效和面积能量效率提升。

    Feb, 2024

  • SCONNA：基于随机计算的光学加速器，用于整数量化 CNN 的超快速、高能效推断

    本研究设计了一种基于光学随机计算和激光环共振器技术的神经网络加速器，该加速器在高精度量化的卷积神经网络推理中能提供高达 66.5 倍的效率提升，并具有非常高的能效比。

    Feb, 2023

  • HEANA: 一种用于能效高的卷积神经网络推理的混合时幅模拟光学加速器

    HEANA 是一种新型的混合时间 - 幅度模拟光学加速器，它采用混合时间幅度模拟光学乘法器和平衡光电荷累加器，能够提供 66 倍的 FPS 和 84 倍的 FPS/W 的改进。

    Feb, 2024

  • SF-MMCN: 低功耗可重构服务器流卷积神经网络加速器

    利用并行结构提出的 SF-MMCN 设计，在面对 CNN 模型中的并行结构时实现了高效的操作和区域利用率，并取得了 76% 的能量节约、55% 的面积节约以及 9.25 倍和 4.92 倍的操作和区域利用效率提升。

    Mar, 2024

  • 用于物联网的可重构流式深度卷积神经网络加速器

    该研究提出了一种流式硬件加速器，通过避免不必要的数据移动和独特的滤波器分解技术，优化了能源效率，并支持任意卷积窗口大小和使用并行池化单元计算最大池化功能，进而实现了吞吐量的提高和较高的能效比，可在智能物联网设备中应用。

    Jul, 2017

  • 深度神经网络加速器中的量化和映射协同探索

    卷积神经网络（CNN）的能效和内存占用取决于权重量化策略和映射，通过启用丰富的混合量化方案，我们可以找到更有效利用硬件资源的映射，从而在精度、能耗和内存要求之间取得更好的平衡。通过扩展 Timeloop 工具，提出了一种高效的多目标优化算法，实证了该方法在两种 CNN 和两种加速器上的有效性，并证明了相对于未经精心优化的 CNN 实现，可以实现高达 37% 的能量节省，而无需降低精度。

    Apr, 2024

  • Morph: 3D CNN 基于视频理解的灵活加速

    本文提出了一个名为 Morph 的新型加速器，用于自适应地支持不同的空间和时间平铺策略，从而有效加速用于视频理解的 3D 卷积神经网络。 在最新的 3D CNN 上评估，与基线 3D CNN 加速器相比，Morph 可将能耗降低 3.4 倍（平均降低 2.5 倍），性能 / 瓦特提高 5.1 倍（平均提高 4 倍），并且仅有 5％的面积开销。

    Oct, 2018

  • 使用多态电光电路与架构实现高速、高效的非二进制计算

    本文研究毫米波带宽的天线阵列的强化学习优化，通过仿真和实验验证了所提出的算法的有效性和鲁棒性。

    Apr, 2023

  • 边缘实时超维重配置的硬件加速器

    本文介绍了利用低功耗嵌入式硬件的超高维可重构分析系统 (HyDRATE)，该系统利用无 MAC (无浮点数乘积累加操作) 深度神经网络 (DNN) 和超维 (超高维) 计算加速器在边缘执行实时重新配置。通过展示该算法、训练好的量化模型生成和特征提取来实现超高纬度基于逻辑的分类器，并展示了性能随超维数增加而提高的情况。本文介绍了实现的低功耗 FPGA 硬件和嵌入式软件系统，和实现的硬件加速器，以及系统延迟和功耗噪声稳健性等方面的讨论。通过视频活动分类任务的实际与模拟系统性能比较，展示了在相同数据集上的重新配置。使用边缘的少量学习新课程，使用无梯度下降反向传播仅通过重新训练前馈超高维分类器实现该系统的重构性。

    Jun, 2022

  • ACNPU: 一款 4.75TOPS/W 的 1080P@30FPS 超分辨率加速器与解耦异步卷积

    提出一种名为 ACNPU 的高能效超分辨率加速器，通过使用分离的异态卷积和分流旁路结构，以及实现整体模型融合来提高图像质量，同时还能减少复杂性和内存带宽需求，达到 4.75 TOPS/W 的能量效率。

    Aug, 2023