May, 2024

在一个 MPSoC 上实现 ReckON RSNN 架构的训练和推理

PDF
TL;DR借助于人工智能的崛起，生物神经元模型正被用于实现在训练阶段后能学习特定任务的神经网络。其中一种类型的网络是依赖于生物神经元的简化模型 —— 积分解耦神经元的尖峰神经网络（SNNs）。出现了几个用于实现带有这种类型神经元的 SNNs 的加速器之一是 ReckON 系统，它允许对递归 SNN 进行训练和执行。ReckON 架构是在定制的 ASIC 上实现的，可以通过硬件描述语言进行完全描述。在本文中，我们将 Verilog 描述适应了 Xilinx 多处理器系统芯片（MPSoC）上进行实现，并提出了使其能在 Pynq ZU 平台上使用的 Python 框架。我们通过两种不同的场景对体系结构和实现进行了验证，并展示了模拟精度如何保持，并达到每秒处理 3.8M 事件的峰值性能。
发现论文，激发创造
  • 一种神经形态学架构用于基于实数观测的强化学习

    该论文提出了一种新颖的脉冲神经网络 (SNN) 架构，用于解决具有实值观测的强化学习问题，该模型结合了多层事件驱动聚类、时序差分误差调节和资格迹，通过消融实验验证了这些组件对模型性能的显著影响，该网络在经典的强化学习环境中始终优于基于表格的方法，提供了更具硬件效率的强化学习解决方案的发展。

    Jul, 2023

  • 脉冲神经元网络中的长短时记忆和学习 - to-learn

    研究了如何通过深度学习将适应性神经元包含在递归脉冲神经元网络（RSNNs）中，从而优化网络结构，实现知识迁移和在少数示例中进行学习、手段是 BPTT 算法。

    Mar, 2018

  • 基于 RISC-V 工具链和敏捷开发的开源神经形态处理器

    本文提出了一种低功耗神经形态计算处理器 —— 文曲星 22A，采用了 RISC-V SNN 扩展指令版本 1.0、简化漏电积分 - 火灾（LIF）模型和二元随机脉冲时序相关可塑性（STDP）等技术，将 SNN 计算单元集成到通用 CPU 流水线中，实现了低功耗计算，并将该处理器应用于 MNIST 数据集识别任务上，结果表明 Wenquxing 22A 相较 ODIN 加速解决方案能够提高 5.13 倍的能源费用效率，同时保持了较高的分类精度。

    Oct, 2022

  • CarSNN：一种基于 Loihi 神经形态研究处理器的事件驱动自主车辆的高效脉冲神经网络

    本文介绍了使用 SNN 和 DVS 结合的方式来实现基于事件的汽车分类器从而应用于自动驾驶，最终在 Intel Loihi 神经形态硬件上实现，并取得了最高 86% 的识别率和 310 mW 的低功耗。

    Jul, 2021

  • 生物启发计算与深度学习的相遇：从人工神经网络到低延迟、准确、高能效的脉冲神经网络

    通过修改 SNN 整合 - 发射神经元模型和在训练 ANN 过程中使用细粒度 L1 正则化和替代梯度等方法，我们提出了一种新的 ANN 转 SNN 框架，可以以极低的时间步和高级稀疏性实现无损 SNN，低延迟，低计算能耗和高测试准确性（例如，ImageNet 数据集上只有 4 个时间步的准确率为 73.30%）。

    Dec, 2023

  • Spiker：面向脉冲神经网络的 FPGA 优化硬件加速

    该研究开发了一种基于 Xilinx Artix-7 FPGA 的硬件加速器，用于高性能 Spiking Neural Networks 推理，评估了该加速器的推理能力，并与现有的加速器进行比较。

    Jan, 2022

  • 神经形态硬件上的超低功耗图像分类

    基于时间编码的 ANN 到 SNN 转换方法 Quartz 在神经形态硬件上实现了高分类准确性，通过时间编码在功耗、吞吐量和延迟方面具有优势。

    Sep, 2023

  • 一种支持新兴神经编码的资源高效脉冲神经网络加速器

    该研究提出了一种新型硬件体系结构，可支持具有新型神经编码的 SNN，并在 FPGA 上对 VGG 神经网络模型进行了部署，从而实现了 25％的功耗和 90％的延迟改善。

    Jun, 2022

  • 自适应脉冲循环神经网络精确高效的时间域分类

    本文介绍了一种使用新颖代理梯度和可调谐自适应尖峰神经元的循环网络，将基于脉冲的神经网络的性能提高至具有挑战性的时间域基准的最新水平，并展示了这些 SNN 的计算效率比具有可比性能的 RNN 高出一到三个数量级，从而使 SNN 成为 AI 硬件实现的有吸引力的解决方案。

    Mar, 2021

  • 低功耗神经形态处理硬件

    本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面，以解决能效问题。

    Jan, 2019