Jan, 2024

实时面部表情识别：神经形态硬件对边缘人工智能加速器的比较

PDF
TL;DR本研究聚焦于实时人脸表情识别（FER）系统作为社会机器人等各种现实世界应用的重要组成部分。我们调查了两种用于边缘部署 FER 机器学习（ML）模型的硬件选择：神经形态硬件和边缘 AI 加速器。我们的研究包括详尽的实验，对比分析了 Intel Loihi 神经形态处理器与四种不同的边缘平台：Raspberry Pi-4、Intel Neural Compute Stick（NSC）、Jetson Nano 和 Coral TPU。实验结果表明，Loihi 与边缘加速器相比，能够实现功耗降低约两个数量级，以及能耗节约约一个数量级。这些功耗和能耗的降低是在维持神经形态解决方案与边缘加速器相当准确性的情况下实现的，而且都在实时延迟要求内。
facial expression recognitionreal-timeneuromorphic hardwareedge ai acceleratorspower and energy savings
发现论文，激发创造
  • 边缘面部表情识别：CPU vs GPU vs VPU vs TPU

    本研究提出了一种分层框架，用于针对边缘部署开发和优化硬件感知的 CNN，并且在多种边缘 AI 加速器上进行全面的分析。使用该策略在 CK + 面部表情数据集上达到了 99.49% 的峰值准确度，并实现了 0.39 毫秒的最小推断延迟和 0.52 瓦特的最小功耗。

    May, 2023

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022

  • 神经形态硬件上关键词检测效率的基准测试

    使用英特尔的 Loihi 神经形态研究芯片和 ABR 的 Nengo 深度学习工具包，对训练识别单个短语的两层神经网络关键词检测器进行推理速度、动态功耗和每次推理的能量成本的分析。与运行在其他硬件设备上的关键词检测器进行比较分析，包括 CPU、GPU、Nvidia 的 Jetson TX1 和 Movidius 神经计算棒。我们的结论表明，在这种推理应用中，Loihi 比所有这些替代品在每次推理的能量成本方面表现更好，同时保持相同的推理精度。此外，对网络大小、推理速度和能量成本之间的权衡分析表明，Loihi 相对其他低功耗计算设备的竞争优势在更大的网络中得到了提高。

    Dec, 2018

  • 使用 AutoML 实现加速器感知的神经网络设计

    采用硬件意识神经架构搜索，设计了一类适用于 Edge TPU 的计算机视觉模型，有效提升了实时图像分类性能并在像素 4 的边缘 TPU 上改善了精度 - 延迟权衡。

    Mar, 2020

  • 面向 XR 应用的边缘 AI 硬件的基于内存的设计空间探索

    本研究旨在探索面向元宇宙应用的低功耗边缘人工智能能力，通过对手势识别和眼部分割工作负载的研究，以量化和硬件特定瓶颈的影响，评估了不同的硬件设计和不同技术节点，并引入新型的非挥发性存储器技术，证明了能够在满足最低 IPS 的情况下实现能耗显著的降低（> = 24%），同时区域显着缩小（> = 30％）。

    Jun, 2022

  • 利用硅光子技术加速大型语言模型和图处理的神经网络

    在人工智能快速发展的领域中，大型语言模型（LLMs）和图处理已经成为自然语言处理（NLP）、计算机视觉和图结构数据应用的变革性技术。本文描述了基于硅光子学的新型硬件加速器，用于加速在 LLMs 和图神经网络中使用的 Transformer 神经网络进行图数据处理。我们的分析表明，这两种硬件加速器在吞吐量上至少实现了 10.2 倍的提升，并且在能源效率上比多个用于 LLMs 和图处理的最新电子硬件加速器提高了 3.8 倍。

    Jan, 2024

  • 边缘可持续 AI 处理

    本研究比较探讨了卷积神经网络加速引擎对于边缘计算的可持续性及其对推理和在线训练的影响，特别关注了处理内存、移动 GPU 加速器和新型 Racetrack 存储器的使用。研究表明，采用更加可持续的处理器内存和移动 GPU 加速器可以有效减少计算的能源占用率。

    Jul, 2022

  • 嵌入式汽车平台上卷积神经网络包的性能 / 功耗评估

    最近的网络在嵌入式商用系统芯片上的有效性和效率进行了验证，为工程师选择最合适的卷积神经网络包和计算系统提供了指导。

    Oct, 2023

  • 重新思考神经网络结构与硬件加速器的共同设计

    本研究系统研究了协同设计神经网络架构和硬件加速器的重要性和策略，发现不同的使用场景会导致非常不同的搜索结果，研究表明联合搜索方法在所有延迟目标上始终优于以前的面向平台的神经体系结构搜索、手动设计的模型和最先进的 EfficientNet，可将边缘加速器的能源消耗降低高达 2 倍。

    Feb, 2021

  • 边缘设备推理性能比较

    本研究分析了 MobileNet，EfficientNet，VGG，Resnet 和 InceptionV3 等多个卷积神经网络在多种设置下的推理时间，结果发现 Google 平台的推理速度最快，特别是对于 MobileNet 或 EfficientNet 等较新的模型；而 Intel Neural Stick 是最通用的加速器，可运行大多数结构。

    Jun, 2023