Aug, 2019

机器学习加速器调查和基准测试

PDF
TL;DR本文研究了公开宣布具有性能和功耗数字的多核处理器和加速器的现状，发现其中一些趋势，包括功耗、数字精度以及推理与训练等方面的趋势，并选择并测试了两个低尺寸、重量和功率的商用加速器的实际表现，将其与报道的性能和功耗数值进行比较，并将其与嵌入式应用程序中使用的 Intel CPU 进行评估。
multicore processorsacceleratorsmachine learningperformancepower consumption
发现论文，激发创造
  • 异构 HPC 平台深度学习硬件加速器调查

    该论文概述了近年来深度学习加速器的最新进展，并分类了最具影响力的架构和技术，以便提供给读者一个全面的视角，最终提供了一些关于深度学习加速器未来挑战的见解，例如量子加速器和光子学。

    Jun, 2023

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022

  • 机器学习辅助的卷积神经网络推断系统计算机架构设计

    我们的工作通过识别最合适的 GPGPU 用于 CNN 推理系统，提出了一种加快 DSE 过程的方法。我们开发了一种快速而精确的技术来预测 CNN 推理过程中的功耗和性能，MAPE 分别为 5.03％和 5.94％。这种方法使计算机架构师能够在开发初期估计功耗和性能，减少了大量原型的必要性。这不仅节省了时间和金钱，同时也改善了上市时间。

    Aug, 2023

  • 2.5D 芯片平台中的硅光子学机器学习加速器

    本文描述了如何将光计算和通信集成到 2.5D 芯片平台中，从而驱动一类新型的可持续扩展的机器学习硬件加速器，以加速新兴的机器学习工作负载，通过跨层设计、硬件 / 软件协同设计和硅光子设计制备。

    Jan, 2023

  • 边缘可持续 AI 处理

    本研究比较探讨了卷积神经网络加速引擎对于边缘计算的可持续性及其对推理和在线训练的影响，特别关注了处理内存、移动 GPU 加速器和新型 Racetrack 存储器的使用。研究表明，采用更加可持续的处理器内存和移动 GPU 加速器可以有效减少计算的能源占用率。

    Jul, 2022

  • 评估新兴 AI/ML 加速器：IPU，RDU 和 NVIDIA/AMD GPU

    本研究对商业 AI / ML 加速器进行了初步评估和比较，通过对常见 DNN 运算符和其他 AI / ML 工作负载的一系列基准评估，揭示了数据流架构相对传统处理器设计的优势和性能权衡，并为研究原型的设计和性能期望提供了有价值的参考，从而促进为不断发展的 AI / ML 应用领域量身定制的下一代硬件加速器的发展。

    Nov, 2023

  • 机器学习的硬件：挑战与机遇

    本文讨论了如何在各种硬件设计级别上解决机器学习中遇到的挑战，主要包括机器学习、传感器数据、嵌入式处理、能源消耗和硬件设计。

    Dec, 2016

  • 林肯人工智能计算调查 (LAICS) 更新

    AI 加速器和处理器的最新调查更新，收集和总结了当前公开宣布的商业加速器的性能和功耗数据，并分析了趋势和市场细分领域。

    Oct, 2023

  • 通过机器学习加速计算机架构模拟

    该论文提出了一种通过利用机器学习技术加速计算机体系结构模拟的方法，该方法利用应用特征和微架构特征的组合来预测应用程序的性能，通过构建和评估一个机器学习模型展示了在体系结构探索方面的显著加速能力。

    Feb, 2024

  • 嵌入式汽车平台上卷积神经网络包的性能 / 功耗评估

    最近的网络在嵌入式商用系统芯片上的有效性和效率进行了验证，为工程师选择最合适的卷积神经网络包和计算系统提供了指导。

    Oct, 2023