Jan, 2021

NxTF：一种 Intel Loihi 深度脉冲神经网络的 API 和编译器

PDF
TL;DR本研究开发了一个基于 Keras 的编程接口 NxTF，该接口针对 Loihi 多核架构进行深度卷积 SNNs 的映射，通过评估其在处理稀疏事件数据集和最新 MobileNet 模型方面的性能表现，证明了该编译器在分配模型跨多个处理器核心以及利用 Loihi 重量共享特性压缩模型方面的有效性，达到了资源利用的最佳性能。
spiking neural networksneuromorphic processorsnxtfintel loihicompiler
发现论文，激发创造
  • 使用 Loihi 2 进行高效神经形态信号处理

    该论文介绍了基于生物启发式的脉冲神经元的神经形态计算中，如何支持具有完全可编程动态范围的状态耦合脉冲神经元模型，并用这些模型在模拟实验中高效处理流数据的示例。其中，我们提出了一种可以计算短时傅里叶变换和光流估计的算法，并展示了使用谐振器级联的变体来复制耳蜗的新特性及其激励的有效脉冲谱图编码器的结果。

    Nov, 2021

  • 神经形态硬件上关键词检测效率的基准测试

    使用英特尔的 Loihi 神经形态研究芯片和 ABR 的 Nengo 深度学习工具包，对训练识别单个短语的两层神经网络关键词检测器进行推理速度、动态功耗和每次推理的能量成本的分析。与运行在其他硬件设备上的关键词检测器进行比较分析，包括 CPU、GPU、Nvidia 的 Jetson TX1 和 Movidius 神经计算棒。我们的结论表明，在这种推理应用中，Loihi 比所有这些替代品在每次推理的能量成本方面表现更好，同时保持相同的推理精度。此外，对网络大小、推理速度和能量成本之间的权衡分析表明，Loihi 相对其他低功耗计算设备的竞争优势在更大的网络中得到了提高。

    Dec, 2018

  • 一种用于图像分割的脉冲神经网络

    本文研究了基于神经形态计算在计算机视觉领域中的可扩展性，为了实现在降低功耗的同时达到非神经形态计算的性能。我们将深度神经网络架构 U-Net 转化为脉冲神经网络架构，并采用 ISBI 2D EM Segmentation 数据集对其进行训练和优化。我们提出了一种优化多芯片网络部署的分区方法，并探讨了对定期发放率进行正则化以最小限度地减少精度损失和优化能量消耗的优势。最终在 Intel Loihi 神经形态芯片上进行的神经形态实现比传统硬件 (CPU，GPU) 在线运行时节省能源的倍数，同时在不牺牲网络的任务性能准确性的情况下实现了这些功率改进。

    Jun, 2021

  • 基于 Loihi 的传导式脉冲图神经网络

    本研究介绍了一种针对 Loihi 2 设计的完全神经形态的尖峰图神经网络实现，利用 Lava 贝叶斯优化优化网络参数，用于引用图分类。结果表明，与现有的浮点实现相比，整型精度的 Loihi 2 兼容尖峰神经网络在引用图分类方面具有可比较的准确性。

    Apr, 2024

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022

  • 一种高效的脉冲神经网络，在 Loihi 神经形态处理器上使用 DVS 摄像机识别手势

    本文介绍了第三代神经网络 —— 脉冲神经网络（Spiking Neural Networks，SNNs），阐述了它们与传统的深度神经网络（Deep Neural Networks，DNNs）相比的优点和特点，重点讨论了如何将经过训练的 DNNs 转换为 SNNs，并实现了在 Intel Loihi 芯片上实现 SNNs 的实时手势识别等应用。

    May, 2020

  • Spiker：面向脉冲神经网络的 FPGA 优化硬件加速

    该研究开发了一种基于 Xilinx Artix-7 FPGA 的硬件加速器，用于高性能 Spiking Neural Networks 推理，评估了该加速器的推理能力，并与现有的加速器进行比较。

    Jan, 2022

  • 为神经形态硬件训练脉冲深度网络

    本文介绍了一种方法，该方法可以训练使用 Leaky Integrate-and-Fire（LIF）神经元的脉冲深度网络，并在包括大型 ImageNet ILSVRC-2012 基准测试在内的五个数据集上取得了最先进的结果。该方法可扩展，并适用于各种神经非线性。通过软化神经响应函数以使其导数保持有界，并通过噪声训练网络，我们实现了这些结果，以提高其承受由脉冲引入的变异性的鲁棒性。我们的分析表明，在神经形态硬件上实现这些网络将比传统硬件上等效的非脉冲网络更加节能。

    Nov, 2016

  • CarSNN：一种基于 Loihi 神经形态研究处理器的事件驱动自主车辆的高效脉冲神经网络

    本文介绍了使用 SNN 和 DVS 结合的方式来实现基于事件的汽车分类器从而应用于自动驾驶，最终在 Intel Loihi 神经形态硬件上实现，并取得了最高 86% 的识别率和 310 mW 的低功耗。

    Jul, 2021

  • Spyx：用于脉冲神经网络的即时编译优化的库

    人工智能在现代社会中的作用日益重要，高效训练和部署深度神经网络成为关注的重点之一。脉冲神经网络（SNNs）通过利用时间稀疏计算提供了提高能源效率的方法，但其训练由于其循环性质而具有一定挑战性。本文介绍了 Spyx，这是一个基于 JAX 设计的新型轻量级 SNN 模拟和优化库，通过在现代加速器的扩展 vRAM 中进行预存数据，并采用大量的即时编译，Spyx 使得 SNN 优化能够作为统一的低级程序在 NVIDIA GPU 或 Google TPU 上执行，实现了最佳的硬件利用率，并在保持相当灵活性的同时超越了许多现有的 SNN 训练框架的性能。

    Feb, 2024