Feb, 2024

基于微环的非相干光子 GEMM 加速器的比较分析

PDF
TL;DR这篇论文研究了基于微环共振器 (MRR) 的模拟光子结构，在深度神经网络中加速通用矩阵乘法 (GEMM) 并具有出色的吞吐量和能效。作者通过分析了调制 - 聚合 - 分拆 - 加权 (MASW)、聚合 - 分拆 - 调制 - 加权 (ASMW) 和分拆 - 调制 - 加权 - 聚合 (SMWA) 的三种不同调制顺序，发现这些组织在电路级的串扰噪声和光信号损失以及系统级的吞吐量和能量区域能够带来不同程度的影响。评估结果显示，相比于 ASMW 和 MASW，SMWA 组织在平均下达到了分别多达 4.4 倍、5 倍和 5.2 倍的吞吐量、能效和面积能量效率提升。
发现论文，激发创造
  • 光子可重构加速器用于混合大小张量 CNN 高效推理

    本文提出了一种引入可重构性的基于 Photonic Microring Resonator 的 CNN 加速器，以动态最大化加速器硬件组件与处理使用硬件组件的 CNN 张量之间的大小兼容性，从而提高并行性、灵活性、效率、速度和整体能效，并在四个现代 CNN 的推理中对其进行了评估，结果表明其对于先前工作中的 MRR 加速器在 FPS 和 FPS/W 方面分别提高了 1.8 倍和 1.5 倍。

    Jul, 2022

  • 使用多态电光电路与架构实现高速、高效的非二进制计算

    本文研究毫米波带宽的天线阵列的强化学习优化，通过仿真和实验验证了所提出的算法的有效性和鲁棒性。

    Apr, 2023

  • 基于硅微环的储备计算中腔体非线性和线性损耗的效应

    微环共振器是时间延迟光子储层计算的有希望的设备，通过数值分析我们发现不同物理效应对于数据预测准确性的影响，研究结果揭示了三个区域，这些区域定义了线性到非线性的腔体转变，其中一个区域在输入功率和光源与微环谐振频差之间表现出较低的预测误差，这项研究为改进时间延迟储层计算的预测表现提供了设计微环共振器和优化其物理特性的见解。

    Oct, 2023

  • HEANA: 一种用于能效高的卷积神经网络推理的混合时幅模拟光学加速器

    HEANA 是一种新型的混合时间 - 幅度模拟光学加速器，它采用混合时间幅度模拟光学乘法器和平衡光电荷累加器，能够提供 66 倍的 FPS 和 84 倍的 FPS/W 的改进。

    Feb, 2024

  • SCONNA：基于随机计算的光学加速器，用于整数量化 CNN 的超快速、高能效推断

    本研究设计了一种基于光学随机计算和激光环共振器技术的神经网络加速器，该加速器在高精度量化的卷积神经网络推理中能提供高达 66.5 倍的效率提升，并具有非常高的能效比。

    Feb, 2023

  • 基于硅微环共振器非线性特性的时滞储层计算的存储容量分析

    通过使用硅微环共振器中的非线性效应，如自由载流子色散和热光效应，将信息映射到更高的维度空间，并通过添加外部波导实现具有增强记忆的延时非线性光子储存器 (TDRC)。在 TDRC 中，非线性效应取决于物理特性，而非线性动态的正确量化有利于实现最佳性能。因此，我们以时间常数和热效应为函数来量化基于微环的 TDRC 方案的非线性和线性内存容量，并分析了 TDRC 动态生成的参数空间，以确定满足传统 RC 任务的输入信号功率和频率偏移范围。

    Jun, 2024

  • 基于可编程多操作多模干涉的机器学习光子张量核心 M3ICRO

    提出了一种名为 M3ICRO 的基于多路多模干涉（MOMMI）器件定制的可编程光子张量芯片，在充分利用光电计算的能力的同时具有高能效、小体积以及优异的噪声鲁棒性。

    May, 2023

  • MZI 基相干光子神经网络中光损耗和串扰噪声分析

    基于硅光子的神经网络加速器（SP-NN）受到光学损耗和串扰噪声的影响，从而导致网络推理准确性下降并且能达到高功耗惩罚。

    Aug, 2023

  • 光子学加速深度神经网络训练：基于残余数系统的设计

    Mirage 是一种基于残留数系统（RNS）的光子深度神经网络（DNN）训练加速器，通过将 RNS 和光子学相结合，提供高能效、高精度且能够成功训练与 FP32 训练相媲美的 DNNs，相比系统阵列，平均可实现超过 23.8 倍的更快训练速度、32.1 倍的更低能耗与相当或更好的效率 - 功耗比（EDP）在等能端景下，以及 42.8 倍的更低功率消耗在等面积场景下。

    Nov, 2023

  • 高效适数值计算的开源框架

    我们提出了一个通用的开源框架，旨在促进高效、个性化的数值矩阵乘法运算（MMM）。该框架提供了两个主要贡献：第一，一个经过优化的、自动化的算术数据通路生成流水线，可以实现高度定制化的脉动式 MMM 核心；第二，生成的核心能够无缝集成到用户代码中，无论使用的是哪种编程语言，而无需进行修改。该框架在多样化的高性能计算工作负载中展现了能效提升的系统性效果，这些工作负载展示了多种数字需求，如人工智能推理和海面高度计算。在人工智能推理方面，我们考虑了一系列最先进的神经网络模型，包括 ResNet18、ResNet34、ResNet50、DenseNet121、DenseNet161、DenseNet169 和 VGG11，结合了两个数据集、两种计算机格式和 27 种不同的中间算术数据通路。我们的方法在所有情况下都能显著减少能耗，其中一个明显的例子是在使用 ResNet50 进行 ImageNet 推理时，IEEE754-32 的能耗降低了 3.3 倍，Bfloat16 的能耗降低了 1.4 倍。在保持 82.3% 和 86% 的准确率的同时，与传统的浮点数单元（FPUs）所实现的准确率相当。在 SSH 计算方面，我们的方法通过使用双精度字实现了完全可重现的结果，超过了传统双精度和四倍精度浮点数运算器（FPUs）的准确率。我们的方法相比 IEEE754-64 和 IEEE754-128，最低提高了 5 倍和 27 倍的 SSH 计算准确性，从而在每单位功耗方面的准确度提升分别为 5.6 倍和 15.1 倍。

    May, 2024