神经形态硬件上关键词检测效率的基准测试

Dec, 2018

神经形态硬件上关键词检测效率的基准测试

Benchmarking Keyword Spotting Efficiency on Neuromorphic Hardware

Peter Blouw, Xuan Choo, Eric Hunsberger, Chris Eliasmith

TL;DR使用英特尔的 Loihi 神经形态研究芯片和 ABR 的 Nengo 深度学习工具包，对训练识别单个短语的两层神经网络关键词检测器进行推理速度、动态功耗和每次推理的能量成本的分析。与运行在其他硬件设备上的关键词检测器进行比较分析，包括 CPU、GPU、Nvidia 的 Jetson TX1 和 Movidius 神经计算棒。我们的结论表明，在这种推理应用中，Loihi 比所有这些替代品在每次推理的能量成本方面表现更好，同时保持相同的推理精度。此外，对网络大小、推理速度和能量成本之间的权衡分析表明，Loihi 相对其他低功耗计算设备的竞争优势在更大的网络中得到了提高。

Abstract

Using Intel's Loihi neuromorphic research chip and ABR's Nengo Deep Learning toolkit, we analyze the inference speed, dynamic power consumption, and energy cost per inference of a two-layer neural network keyword

neuromorphic research chip nengo deep learning toolkit energy cost per inference inference speed comparative analysis

发现论文，激发创造

神经形态硬件上机器学习工作量的高效部署

本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

Oct, 2022

NxTF：一种 Intel Loihi 深度脉冲神经网络的 API 和编译器

本研究开发了一个基于 Keras 的编程接口 NxTF，该接口针对 Loihi 多核架构进行深度卷积 SNNs 的映射，通过评估其在处理稀疏事件数据集和最新 MobileNet 模型方面的性能表现，证明了该编译器在分配模型跨多个处理器核心以及利用 Loihi 重量共享特性压缩模型方面的有效性，达到了资源利用的最佳性能。

Jan, 2021

基于 Loihi 2 神经形态处理器的局部竞争算法实施与基准测试

神经形态处理器在近年来因其能够实现高效能、高速计算而引起了广泛关注。本研究介绍了一种针对 Loihi 2 处理器设计的 Locally Competitive Algorithm (LCA) 新实现，并通过与 CPU 和 GPU 设备上的 LCA 进行一系列实验性能比较，结果显示 LCA 在 Loihi 2 上的性能较之传统计算设备显著提升，具备更高的效率和更快的处理速度，同时保持类似的重建质量。该研究突出了神经形态处理器，尤其是 Loihi 2，在小型机器人、卫星等资源受限设备上实现智能、自主、实时处理的潜力，为相关应用的推进提供了有价值的工具。总而言之，本研究凸显了神经形态处理器在资源受限设备上高效准确地处理数据的潜力。

Jul, 2023

实时面部表情识别：神经形态硬件对边缘人工智能加速器的比较

本研究聚焦于实时人脸表情识别（FER）系统作为社会机器人等各种现实世界应用的重要组成部分。我们调查了两种用于边缘部署 FER 机器学习（ML）模型的硬件选择：神经形态硬件和边缘 AI 加速器。我们的研究包括详尽的实验，对比分析了 Intel Loihi 神经形态处理器与四种不同的边缘平台：Raspberry Pi-4、Intel Neural Compute Stick（NSC）、Jetson Nano 和 Coral TPU。实验结果表明，Loihi 与边缘加速器相比，能够实现功耗降低约两个数量级，以及能耗节约约一个数量级。这些功耗和能耗的降低是在维持神经形态解决方案与边缘加速器相当准确性的情况下实现的，而且都在实时延迟要求内。

Jan, 2024

使用 Loihi 2 进行高效神经形态信号处理

该论文介绍了基于生物启发式的脉冲神经元的神经形态计算中，如何支持具有完全可编程动态范围的状态耦合脉冲神经元模型，并用这些模型在模拟实验中高效处理流数据的示例。其中，我们提出了一种可以计算短时傅里叶变换和光流估计的算法，并展示了使用谐振器级联的变体来复制耳蜗的新特性及其激励的有效脉冲谱图编码器的结果。

Nov, 2021

一种用于图像分割的脉冲神经网络

本文研究了基于神经形态计算在计算机视觉领域中的可扩展性，为了实现在降低功耗的同时达到非神经形态计算的性能。我们将深度神经网络架构 U-Net 转化为脉冲神经网络架构，并采用 ISBI 2D EM Segmentation 数据集对其进行训练和优化。我们提出了一种优化多芯片网络部署的分区方法，并探讨了对定期发放率进行正则化以最小限度地减少精度损失和优化能量消耗的优势。最终在 Intel Loihi 神经形态芯片上进行的神经形态实现比传统硬件 (CPU，GPU) 在线运行时节省能源的倍数，同时在不牺牲网络的任务性能准确性的情况下实现了这些功率改进。

Jun, 2021

一种高效的脉冲神经网络，在 Loihi 神经形态处理器上使用 DVS 摄像机识别手势

本文介绍了第三代神经网络 —— 脉冲神经网络（Spiking Neural Networks，SNNs），阐述了它们与传统的深度神经网络（Deep Neural Networks，DNNs）相比的优点和特点，重点讨论了如何将经过训练的 DNNs 转换为 SNNs，并实现了在 Intel Loihi 芯片上实现 SNNs 的实时手势识别等应用。

May, 2020

基于 Loihi 的传导式脉冲图神经网络

本研究介绍了一种针对 Loihi 2 设计的完全神经形态的尖峰图神经网络实现，利用 Lava 贝叶斯优化优化网络参数，用于引用图分类。结果表明，与现有的浮点实现相比，整型精度的 Loihi 2 兼容尖峰神经网络在引用图分类方面具有可比较的准确性。

Apr, 2024

基于卷积神经网络的快速、节能的神经形态计算

本文介绍了一种基于突触剪枝和脉冲神经元结构的神经形态学计算机，其能够实现与深度神经网络相当的分类准确率，而且具有更高的能效和推理速度，在维持高吞吐量的同时能够达到节能的目的，并且使用反向传播算法进行指定和训练，使深度学习的算法能力与神经形态学处理器的效率相结合，从而更好地实现嵌入式人工智能的发展。

Mar, 2016

基于神经形态计算的卫星通信能效化机载无线资源管理

最新的卫星通信 (SatCom) 任务以完全可重构的机载软件定义载荷为特征，能够根据系统流量的时空变化适应无线电资源。我们研究了在机载无线电资源管理中应用节能的脑启发式机器学习模型。除了软件模拟外，我们还使用最新发布的 Intel Loihi 2 芯片进行了大量的实验结果。通过在 Xilinx Versal VCK5000 上实现传统的卷积神经网络 (CNN)，我们对不同流量需求的准确性、精确度、召回率和能源效率进行了详细比较，最显著的是，对于相关的工作负载，Loihi 2 上实现的脉冲神经网络 (SNNs) 在提高准确性的同时，将功耗降低了 100 倍以上，与基于 CNN 的参考平台相比。我们的发现指出了神经形态计算和 SNN 在支持机载 SatCom 操作方面的重要潜力，为未来 SatCom 系统的提高效率和可持续性铺平了道路。

Aug, 2023