OPIMA:光学处理内存用于卷积神经网络加速
本文提出一种名为TIMELY的创新性处理内存加速器,通过采用模拟数据局部性、时域接口和仅一次输入读取的映射方法,最大限度地提高了能效,并在能效、计算密度和吞吐量上优于已有的R$^2$PIM加速器。
May, 2020
本研究通过对数据访问和计算模式的分析,以深度优化算法和硬件,提出了两种利用PIM范式进行机器学习和混合事务/分析处理的数据中心架构。
May, 2022
本研究比较探讨了卷积神经网络加速引擎对于边缘计算的可持续性及其对推理和在线训练的影响,特别关注了处理内存、移动GPU加速器和新型Racetrack存储器的使用。研究表明,采用更加可持续的处理器内存和移动GPU加速器可以有效减少计算的能源占用率。
Jul, 2022
本文提出了一种引入可重构性的基于Photonic Microring Resonator的CNN加速器,以动态最大化加速器硬件组件与处理使用硬件组件的CNN张量之间的大小兼容性,从而提高并行性、灵活性、效率、速度和整体能效,并在四个现代CNN的推理中对其进行了评估,结果表明其对于先前工作中的MRR加速器在FPS和FPS/W方面分别提高了1.8倍和1.5倍。
Jul, 2022
研究探讨了基于内存为中心的计算系统中处理器内存访问瓶颈和大量能量消耗的解决方案,考察 PIM 架构对机器学习算法训练的潜力,通过评估经典算法在 PIM 和传统 CPU、GPU 上的性能、准确度和扩展性对比,表现出更高效的处理机制和更好的加速效果。
Jul, 2022
本文描述了如何将光计算和通信集成到 2.5D 芯片平台中,从而驱动一类新型的可持续扩展的机器学习硬件加速器,以加速新兴的机器学习工作负载,通过跨层设计、硬件/软件协同设计和硅光子设计制备。
Jan, 2023
本研究设计了一种基于光学随机计算和激光环共振器技术的神经网络加速器,该加速器在高精度量化的卷积神经网络推理中能提供高达 66.5倍的效率提升,并具有非常高的能效比。
Feb, 2023
我们提出了一种超光谱存储体系结构,通过将空间复用与频率复用光频梳相结合,并利用空间光调制器作为可编程光学存储器,从而提高计算吞吐量和能源效率。我们在矩阵-向量乘法和矩阵-矩阵乘法中实验性地演示了高于4位精度的乘累加运算,这表明了该系统在各种深度学习和优化任务中的潜力。我们的方法展示了超越传统光学计算体系结构的非凡模块化性,可扩展性和可编程性,并显着超越了peta(每秒百万亿次)操作,标志着实现高吞吐量、高能效光学计算的重要进展。
Oct, 2023
为了解决处理内存加速器上大规模神经网络的受限芯片内存容量所带来的挑战,本文介绍了Epitome,这是一个轻量级神经算子,为处理内存加速器(EPIM)设计了高效的卷积操作符。实验结果表明,我们的3位量化EPIM-ResNet50在ImageNet上达到了71.59%的top-1准确率,将交叉栏面积降低了30.65倍,超过了PIM的最先进修剪方法。
Nov, 2023
通过使用 PIM/NMC 架构以及利用新型的 in-DRAM 金属-金属电容器支持随机计算和时间模拟累加,我们提出了 ARTEMIS,一个用于 Transformer 模型的混合模拟-随机的 in-DRAM 加速器,通过对传统 DRAM 数组进行最小化改变,ARTEMIS 在执行 Transformer 模型时高效地减轻了相关成本,相较于 GPU、TPU、CPU 和先进的 PIM Transformer 硬件加速器,ARTEMIS 达到了至少 3.0 倍的加速、1.8 倍低能量消耗以及 1.9 倍更好的能效。
Jul, 2024