Jan, 2024

使用抽象计算机体系结构描述语言建模 AI 硬件加速器

PDF
TL;DR人工智能通过深度神经网络持续增长，为了充分发挥其潜力，特定的硬件加速器成为必需品。本文介绍了如何使用抽象计算机体系结构描述语言（ACADL）对人工智能硬件加速器进行建模，并使用它们的描述将深度神经网络映射到加速器上，进而解释时间模拟语义来获取性能结果。
artificial intelligencedeep neural networkshardware acceleratorsperformance requirementsacadl
发现论文，激发创造
  • 异构 HPC 平台深度学习硬件加速器调查

    该论文概述了近年来深度学习加速器的最新进展，并分类了最具影响力的架构和技术，以便提供给读者一个全面的视角，最终提供了一些关于深度学习加速器未来挑战的见解，例如量子加速器和光子学。

    Jun, 2023

  • 面向下一代 AI 系统的多 DNN 加速器

    研究了使用 AI 技术的多个领域，阐述了深度神经网络的重要性以及针对多模态数据并发处理的多模型或并行 DNN 的管道，提出了新一代 AI 系统将具有多 DNN 工作负载的核心，需要计算机架构的额外突破，能够在 DNN 数量增加时仍保持高性能，同时满足服务质量要求，因此提出了多 DNN 加速器设计的主题。

    May, 2022

  • 异构架构深度学习加速设计方法综述

    深度学习加速器的设计方法和电子设计自动化工具经过综合评估，为实现高性能和能源效率提供了全面的视角。

    Nov, 2023

  • 重新思考神经网络结构与硬件加速器的共同设计

    本研究系统研究了协同设计神经网络架构和硬件加速器的重要性和策略，发现不同的使用场景会导致非常不同的搜索结果，研究表明联合搜索方法在所有延迟目标上始终优于以前的面向平台的神经体系结构搜索、手动设计的模型和最先进的 EfficientNet，可将边缘加速器的能源消耗降低高达 2 倍。

    Feb, 2021

  • DEAP：DNN 加速器并行性的设计空间探索

    这篇论文展示了硬件和软件的协同设计如何为特定的大型语言模型工作负载创建定制的硬件系统，通过模型并行技术和多加速器仿真框架实现效率度量，重点关注推理工作负载并报告多种软硬件配置下的功耗、周期和延迟度量。

    Dec, 2023

  • 神经加速器的硬件 / 软件学习式协同设计

    本文提出一种基于硬件 / 软件协同设计的新的约束贝叶斯优化框架，可以自动识别联合设计空间中的优化点，应用于各种神经模型，改善能量延迟产品的性能。

    Oct, 2020

  • 大型语言模型的硬件加速器调查

    该研究综述了与优化大型语言模型性能和能源效率相关的硬件加速器，涵盖了多种加速器的体系结构、性能指标和能源效率考虑，并为研究人员、工程师和决策者在现实应用中优化大型语言模型的部署提供了有价值的见解。

    Jan, 2024

  • 评估新兴 AI/ML 加速器：IPU，RDU 和 NVIDIA/AMD GPU

    本研究对商业 AI / ML 加速器进行了初步评估和比较，通过对常见 DNN 运算符和其他 AI / ML 工作负载的一系列基准评估，揭示了数据流架构相对传统处理器设计的优势和性能权衡，并为研究原型的设计和性能期望提供了有价值的参考，从而促进为不断发展的 AI / ML 应用领域量身定制的下一代硬件加速器的发展。

    Nov, 2023

  • DANCE: 可微加速器 / 网络共同探索

    本文介绍了 DANCE，它是一种不同 iable 方法，用于硬件加速设计和网络架构设计的共同探索，与现有方法相比，其可以在更短的时间内实现更优秀的准确性和硬件成本度量。

    Sep, 2020

  • 一个基于机器学习加速器的开源全栈优化框架

    参数化机器学习加速器可通过硬件加速深度神经网络和非神经网络的机器学习算法进行设计空间探索，其中采用了物理设计驱动的学习预测框架，结合后端功耗、性能和面积分析以及前端性能模拟，实现了对后端 PPA 和运行时能耗等系统指标的真实估计，并引入了完全自动化的设计空间探索技术，通过对架构和后端参数的自动搜索来优化后端和系统指标。实验结果表明，该方法在两种深度学习加速器平台（VTA 和 VeriGOOD-ML）的 ASIC 实现中，无论是商业 12 纳米工艺还是研究导向的 45 纳米工艺，都能以平均 7％或更低的预测误差一致准确地预测后端 PPA 和系统指标。

    Aug, 2023