May, 2023

在 FPGA 上高效实现多层梯度免费在线可训练的脉冲神经网络

PDF
TL;DR本论文提出了一种高效的硬件实现方式，可以有效地实现最近提出的经过优化的深度事件驱动尖峰神经网络体系结构（ODESA），该结构是第一个具有端到端多层在线本地监督训练而不使用梯度的网络，并具有有效的分层结构的权重和阈值的组合自适应性。通过使用简单的局部自适应选择阈值，WTA 约束以及对硬件更加友好的改进的权重更新规则，在不使用反向传播的情况下，该所有层具有在线自学习功能。通过事件驱动的二进制脉冲交互，并减少硬件要求，硬件优化的实现保持了多个时空分类问题上的原始算法的性能。
optimized deep event-driven spiking neural network architectureonline local supervised trainingmulti-layer spiking neural networklocal adaptive selection thresholdsevent-based binary spikes
发现论文，激发创造
  • 基于脉冲神经网络的嵌入式事件驱动目标检测

    利用 SPLEAT 加速器的嵌入式神经形态测试台成功地在可嵌入设备上训练、评估、量化和部署了脉冲神经网络，通过加载最新的神经网络解决方案，估计了在专门设计的低功耗脉冲神经网络硬件上部署网络所带来的性能损失，并在神经形态硬件上实现了真实世界的基于事件的目标检测，令人惊叹的是，具有 108 万参数的嵌入式脉冲解决方案每个预测只需消耗 490 mJ。

    Jun, 2024

  • 基于神经 ODE 的高性价比 FPGA 实现的微型 Transformer 模型

    使用神经 ODE 作为骨干架构，我们显著减少了混合模型的参数大小，并将提出的 FPGA 实现部署在资源有限的 FPGA 设备上，从而实现了 12.8 倍的加速和 9.21 倍的能量效率。

    Jan, 2024

  • 基于云边框架的能效事件驱动控制：在线监督学习、脉冲神经网络和本地可塑性规则的集成

    提出了一种新的云边框架解决复杂控制系统中的计算和能源限制问题，采用了基于脉冲神经网络 (SNN) 的学习型控制器在物理设备上实施。通过将生物学合理的学习方法与本地可塑性规则结合，我们利用 SNN 的高效性、可扩展性和低延迟，在设备上直接复制云端控制器的控制信号，减少了对常量植物 - 云通信的需求。植物仅在错误超过预定义阈值时更新权重，确保在各种条件下的效率和鲁棒性。在线性工作台系统和卫星交会等场景中（包括避障），我们的架构通过增加网络规模将归一化跟踪误差显著降低了 96%。由于 SNN 的事件驱动特性，其能源消耗最小，仅约为标准计算需求的 111 nJ（0.3%）。结果展示了系统对不断变化的工作环境的调整以及对计算和能源资源的高效利用，与非障碍场景相比，静态和动态障碍物的能源消耗分别增加了 27.2% 和 37%。

    Apr, 2024

  • 基于前向时间轴的神经形态学在线学习空时模式

    针对脉冲神经网络的在线学习问题，本研究提出了适用于在线学习的神经突触自适应空时学习算法（SOLSA）。相比传统的通过时间反向传播（BPTT）算法，SOLSA 在内存需求上更低，具有更平衡的时间工作负载分配，并且通过调度权重更新、提前停止训练和自适应突触滤波等增强技术，提高了收敛速度和学习性能。与其他非 BPTT 基于的脉冲神经网络学习方法相比，SOLSA 在平均学习准确度上表现出 14.2% 的提升。此外，SOLSA 相比于 BPTT，在平均学习准确度提高了 5% 的同时，内存成本减少了 72%。

    Jul, 2023

  • 面向脉冲神经网络的前向直接反馈对在线梯度估计的应用

    在寻找与当前最先进的神经网络训练算法相比更节能的替代方法方面，有一种对脉冲神经网络的兴趣，因为它们可以在神经形态硬件平台上高效模拟能量。然而，这些平台在训练算法设计方面存在限制，最重要的是不能实现反向传播。本文提出了一种新颖的神经形态算法 —— 脉冲前向直接反馈对齐（SFDFA）算法，这是一种将前向直接反馈对齐（Forward Direct Feedback Alignment）用于训练脉冲神经网络的改进方式。SFDFA 算法通过反馈连接来估计输出和隐藏神经元之间的权重。本文的主要贡献在于描述了如何在线获取脉冲的精确局部梯度，同时考虑到突触后脉冲之间的内部神经元依赖关系，并推导了神经形态硬件兼容的动力系统。我们将 SFDFA 算法与一些竞争算法进行比较，并证明了该算法具有更高的性能和收敛速度。

    Feb, 2024

  • 基于图结构的多元素 ODE 神经网络用于时空交通预测

    本文提出了一种新颖的基于图的多 - ODE 神经网络（GRAM-ODE）架构，通过捕捉复杂的局部和全局动态时空依赖关系的不同视图来学习更好的表示，并在其中间层添加了共享权重和发散性约束等技术以进一步改善面向预测任务的通信。在六个真实数据集上进行的广泛实验表明，GRAM-ODE 相比最先进的基线方法具有明显的优越性，并且不同组件对整体性能的贡献。

    May, 2023

  • 通过梯度重新加权实现脉冲神经网络的时间高效训练

    本文介绍了一种时间效率训练（TET）方法，以解决直接使用代理梯度进行训练的脉冲神经网络（SNNs）普遍存在的推广性差的问题，并且证明了该方法在各种数据集上超过了其他方法，尤其在 DVS-CIFAR10 上达到了 83% 的准确率，优于现有技术。

    Feb, 2022

  • 一种支持新兴神经编码的资源高效脉冲神经网络加速器

    该研究提出了一种新型硬件体系结构，可支持具有新型神经编码的 SNN，并在 FPGA 上对 VGG 神经网络模型进行了部署，从而实现了 25％的功耗和 90％的延迟改善。

    Jun, 2022

  • 有效训练脉冲神经网络的脉冲累积转发

    我们提出了一种新的训练脉冲神经网络（SNNs）的范式，即脉冲积累转发（SAF）。SAF 能够在前向过程中减少一半的操作并且与脉冲表示法和在线时间训练（OTTT）相一致，通过实验证实此内容，同时在保持准确性的同时减少了内存和训练时间。

    Oct, 2023

  • 在线训练前馈 SNNs 时的估计后突触效应

    在线学习在脉冲神经网络中的推动作用是发展事件驱动模型以适应不断变化的环境并能够实时从连续数据流中学习的一项关键步骤。我们提出了一种名为 OTPE 的在线培训方法，用于训练前馈式脉冲神经网络，该方法通过引入时间动态来近似实时递归学习（RTRL），并克服了现有近似方法所无法捕捉的时间效应。我们证明了该方法在多层网络中具有更好的可扩展性，并且所需的计算开销与类似算法相比非常小。此外，OTPE 在深度网络中展现出与通过时间反向传播计算的准确梯度最高的方向一致性，并且在基于时间编码的情况下优于其他近似方法。我们还观察到，在具有相同超参数的 Spiking Heidelberg Digits 的离线训练中，OTPE 相比于其他类似算法有显著的性能提升（OTTT/OSTL 为 70.5%，OTPE 为 75.2%，BPTT 为 78.1%）。

    Nov, 2023