Feb, 2024

Spyx：用于脉冲神经网络的即时编译优化的库

PDF
TL;DR人工智能在现代社会中的作用日益重要，高效训练和部署深度神经网络成为关注的重点之一。脉冲神经网络（SNNs）通过利用时间稀疏计算提供了提高能源效率的方法，但其训练由于其循环性质而具有一定挑战性。本文介绍了 Spyx，这是一个基于 JAX 设计的新型轻量级 SNN 模拟和优化库，通过在现代加速器的扩展 vRAM 中进行预存数据，并采用大量的即时编译，Spyx 使得 SNN 优化能够作为统一的低级程序在 NVIDIA GPU 或 Google TPU 上执行，实现了最佳的硬件利用率，并在保持相当灵活性的同时超越了许多现有的 SNN 训练框架的性能。
artificial intelligencedeep neural networksneuromorphic computingspiking neural networkssnn optimization
发现论文，激发创造
  • SpykeTorch：在每个神经元最多一个突触的情况下，高效模拟卷积脉冲神经网络

    本文介绍了一个基于 PyTorch 的名为 SpykeTorch 的模拟框架，用于模拟深度卷积脉冲神经网络和学习规则，该框架具有高速、通用且基于张量计算的优点。

    Mar, 2019

  • SpikingJelly: 一个面向脉冲智能的开源机器学习基础设施平台

    该研究论文介绍了 SpikingJelly 框架，它是一个全套工具包，用于预处理神经形态学数据集、构建深度 SNN、优化其参数并将其部署到神经形态芯片。通过 SpikingJelly 框架，深度 SNN 的训练速度可以加快 11 倍，且其卓越的可扩展性和灵活性使用户能够以较低成本通过多级继承和半自动代码生成加速定制模型。SpikingJelly 为合成真正高能效的基于 SNN 的机器智能系统铺平了道路，丰富了神经形态计算的生态系统。

    Oct, 2023

  • Spiker+: 边缘推理用高效 Spiking 神经网络 FPGA 加速器生成框架

    Spiker + 是一个在 FPGA 上生成高效、低功耗、低面积的定制化脉冲神经网络（SNN）加速器的综合框架，在边缘进行推断。它通过配置多层硬件 SNN、高效的神经元架构库和设计框架，以极少量的 Python 代码开发复杂的神经网络加速器。使用 MNIST 和 SHD 两个基准数据集进行测试，Spiker + 在 MNIST 上表现出与最先进的 SNN 加速器相媲美的性能，资源分配需求为 7,612 个逻辑单元和 18 个 Block RAMs，并且在处理一张输入图像的完整推断过程中仅消耗 180mW 的功耗。与最先进的加速器相比，延迟相当，为 780 微秒 / 图像。据作者所知，Spiker + 是在 SHD 上进行测试的第一个 SNN 加速器，资源需求为 18,268 个逻辑单元和 51 个 BRAM，功耗为 430mW，并且在处理输入数据的完整推断过程中延迟为 54 微秒。这凸显了 Spiker + 在硬件加速的 SNN 领域的重要性，使其成为在资源和功耗受限的边缘应用中部署可配置和可调节的 SNN 架构的绝佳解决方案。

    Jan, 2024

  • SNN 框架：面向数据科学的软件综述和 SpykeTorch 扩展

    本研究回顾了 9 种用于建立 SNNs 的框架，重点介绍探究不同类型研究最适合框架的可能性的神经元模型和学习规则的可用性，并提供了一个扩展版本的 SpykeTorch 框架，向用户提供更广泛的可嵌入 SNNs 的神经元模型选择，并公开了代码。

    Feb, 2023

  • Spiker：面向脉冲神经网络的 FPGA 优化硬件加速

    该研究开发了一种基于 Xilinx Artix-7 FPGA 的硬件加速器，用于高性能 Spiking Neural Networks 推理，评估了该加速器的推理能力，并与现有的加速器进行比较。

    Jan, 2022

  • SpikeExplorer：基于硬件的 FPGA 脉冲神经网络设计空间探索

    使用 SpikExplorer，利用硬件导向的自动设计空间探索来优化 SNNs，以增加硬件资源效率，减少功耗，并提供多种目标优化选项。在三个基准数据集上展示了 SpikExplorer 的潜力，实现了 95.8% 的准确率，每个图像功耗为 180mW，延迟为 0.12ms，成为自动优化 SNNs 的强大工具。

    Apr, 2024

  • 搭载 Rockpool 和 Xylo 的亚毫瓦神经形态 SNN 音频处理应用

    我们利用时域不变的金字塔式突触时常的直观 SNN 架构，通过梯度下降来设计、训练和部署任意时间信号处理应用程序，并在能量受限的环境中展示了高准确性和低延迟。

    Aug, 2022

  • 可扩展、能效高和值得信赖的脉冲神经网络的最新进展：从算法到技术

    神经形态计算及尤其是脉冲神经网络 (SNNs) 作为深度神经网络的一种有吸引力的替代方法，已广泛应用于处理来自不同感觉模态的静态和 / 或时间输入的信号处理应用。本文从算法和优化创新的最新进展开始，旨在高效训练和扩展低延迟、能源高效的复杂机器学习应用中的脉冲神经网络 (SNNs)。然后，我们讨论了算法 - 架构共设计方面的最新研究成果，探索在实现高能效和低延迟的同时仍提供高准确性和可信性之间的固有权衡。然后，我们描述了为有效利用这种算法创新而开发的基础硬件。尤其是，我们描述了一种混合方法，即在内存组件和传感器本身中整合模型计算的重要部分。最后，我们讨论了构建可部署 SNN 系统的研究前景，重点是算法 - 硬件 - 应用共设计领域的关键挑战，强调了可信性。

    Dec, 2023

  • 低功耗神经形态处理硬件

    本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面，以解决能效问题。

    Jan, 2019

  • 一种支持新兴神经编码的资源高效脉冲神经网络加速器

    该研究提出了一种新型硬件体系结构，可支持具有新型神经编码的 SNN，并在 FPGA 上对 VGG 神经网络模型进行了部署，从而实现了 25％的功耗和 90％的延迟改善。

    Jun, 2022