Sep, 2023

Morpher：一种用于图形计算加速的综合设计、编译和仿真框架

PDF
TL;DRCoarse-Grained Reconfigurable Arrays (CGRAs) offer versatility beyond AI applications, and Morpher is an open-source framework designed to explore the design space of CGRAs, providing a tailored compiler, simulator, accelerator synthesis, and validation framework to automatically compile AI application kernels onto user-defined CGRA architectures and verify their functionality for efficient compilation and verification of edge AI applications.
coarse-grained reconfigurable arraysmorphercompilersimulatoredge ai applications
发现论文，激发创造
  • 利用 Versal 体系结构的芯片内异构性加速 GNN 推理

    基于 AMD Versal ACAP 架构，利用数据稀疏性加速图神经网络（GNN）推理，通过自定义硬件模块在可编程逻辑（PL）上执行稀疏计算，利用 AI Engine（AIE）高效计算稠密计算部分，并通过动态分配计算任务的运行时内核映射策略在 PL 和 AIE 上分别进行计算，从而在 VCK5000 ACAP 平台上相比于 CPU、GPU、ACAP 和其他自定义 GNN 加速器实现获得更好的性能，平均速度提升分别为 162.42x、17.01x、9.90x 和 27.23x，对于图卷积网络（GCN）推理，相对于仅使用 PL 设计的方案在同一 ACAP 设备上获得了 3.9-96.7 倍的速度提升。

    Aug, 2023

  • 实时面部表情识别：神经形态硬件对边缘人工智能加速器的比较

    本研究聚焦于实时人脸表情识别（FER）系统作为社会机器人等各种现实世界应用的重要组成部分。我们调查了两种用于边缘部署 FER 机器学习（ML）模型的硬件选择：神经形态硬件和边缘 AI 加速器。我们的研究包括详尽的实验，对比分析了 Intel Loihi 神经形态处理器与四种不同的边缘平台：Raspberry Pi-4、Intel Neural Compute Stick（NSC）、Jetson Nano 和 Coral TPU。实验结果表明，Loihi 与边缘加速器相比，能够实现功耗降低约两个数量级，以及能耗节约约一个数量级。这些功耗和能耗的降低是在维持神经形态解决方案与边缘加速器相当准确性的情况下实现的，而且都在实时延迟要求内。

    Jan, 2024

  • GRIP: 图神经网络加速器架构

    GRIP 是一个用于低延迟推断的图神经网络加速器体系结构，它将 GNN 推断分为一组固定的边界和顶点中心执行阶段。它使用高性能矩阵乘法引擎以及专用的权重存储器来提高重用性，并通过多个并行预取和约简引擎来缓解存储器访问的不规则性。它支持几个 GNN 优化，包括称为 “顶点平铺” 的新优化，可以提高权重数据的重用。

    Jul, 2020

  • GANAX：用于生成对抗网络的统一 MIMD-SIMD 加速器

    本论文提出了一种名为 GANAX 的新型加速器设计，旨在解决深度生成对抗网络中的卷积精度和硬件加速效率问题，利用重新组织输出计算以及 MIMD-SIMD 统一设计等策略，有效加速了 GAN 的训练和运行。

    May, 2018

  • 边缘可持续 AI 处理

    本研究比较探讨了卷积神经网络加速引擎对于边缘计算的可持续性及其对推理和在线训练的影响，特别关注了处理内存、移动 GPU 加速器和新型 Racetrack 存储器的使用。研究表明，采用更加可持续的处理器内存和移动 GPU 加速器可以有效减少计算的能源占用率。

    Jul, 2022

  • 异构受限计算中的边缘 AI 推断：可行性与机遇

    网络边缘在人工智能（AI）推理处理中的作用正在快速扩大，驱动力是众多寻求计算优势的应用程序。

    Oct, 2023

  • NeuraChip: 使用基于哈希的解耦空间加速器加速 GNN 计算

    NeuraChip 是一种基于 Gustavson 算法的新型 GNN 空间加速器，通过分离稀疏矩阵乘法中的乘法和加法计算，实现了数据依赖性的独立利用，减少了片上内存中数据闲置的问题，并通过动态再分配哈希映射实现了计算资源的负载平衡，从而在性能分析方面取得了显著的改进。

    Apr, 2024

  • 使用 AutoML 实现加速器感知的神经网络设计

    采用硬件意识神经架构搜索，设计了一类适用于 Edge TPU 的计算机视觉模型，有效提升了实时图像分类性能并在像素 4 的边缘 TPU 上改善了精度 - 延迟权衡。

    Mar, 2020

  • 图计算加速器的实现

    图神经网络在图结构数据上学习提供了一种新颖的机器学习范例，能够捕捉图数据中的复杂关系和依赖性，从而在社交网络分析、分子化学和网络安全等领域具有重要的影响。本论文旨在深入研究 GNN 与底层硬件的交互方式，并设计专用加速器和新型优化方法，以实现更高效和更快速的 GNN 计算。我们基于对 GNN 计算需求的特征化构建了先进的硬件加速器结构，同时扩展了对图神经网络领域中新型模型的探索，旨在提供不仅高性能而且能适应图计算发展的多功能加速器。

    Dec, 2023

  • 机器学习加速器调查和基准测试

    本文研究了公开宣布具有性能和功耗数字的多核处理器和加速器的现状，发现其中一些趋势，包括功耗、数字精度以及推理与训练等方面的趋势，并选择并测试了两个低尺寸、重量和功率的商用加速器的实际表现，将其与报道的性能和功耗数值进行比较，并将其与嵌入式应用程序中使用的 Intel CPU 进行评估。

    Aug, 2019