Mar, 2024

基于空间和时间注意力的混合 SNN-ANN 网络用于基于事件的物体检测

PDF
TL;DR我们介绍了一种基于事件相机的混合注意力脉冲神经网络 — 人工神经网络（Hybrid Attention-based SNN-ANN）骨干架构，用于目标检测。通过引入新颖的基于注意力的 SNN-ANN 桥接模块，我们能够从 SNN 层捕捉稀疏的空间和时间关系，并将其转换为 ANN 骨干的稠密特征图。实验结果表明，我们的方法在性能上超过了基线混合和基于 SNN 的方法，并与现有的基于 ANN 的方法相媲美。深入的消融研究确认了我们提出的模块和架构选择的有效性。这些结果为实现在大幅度减少参数预算的情况下达到 ANN 类似性能的混合 SNN-ANN 架构铺平了道路。我们在数字神经形态硬件上实现了 SNN 块，以研究延迟和功耗，并证明了我们的方法的可行性。
event camerasspiking neural networkshybrid snn-ann approachesobject detectionattention-based snn-ann
发现论文，激发创造
  • 最佳双赢：用于事件光流估计的混合 SNN-ANN 体系结构

    该研究提出了一种新的 SNN-ANN 混合体系结构，该体系结构结合了事件图像和异步计算的优势，用于光流估计，实验结果表明，与以往的混合体系结构，ANN-only 和 SNN-only 体系结构相比，该混合体系结构在准确性和效率方面均有显著提升。

    Jun, 2023

  • 用于低功耗和低延迟视觉感知的混合 ANN-SNN 架构

    该研究通过初始化辅助 ANN 来解决 Spiking Neural Networks 的长转移期和状态衰减的问题，提出了一种 ANN-SNN 模型来实现高时间分辨率、低延迟和低功耗的预测。在 2D 和 3D 人体姿势估计任务中，与完全 ANN 相比，该方法性能下降仅为 4%，但功耗降低了 88%；与 SNN 相比，误差降低了 74%。

    Mar, 2023

  • 通过时间动力学学习稀疏事件来进行汽车目标检测

    基于事件的传感器与其高时间分辨率（1 微秒）和动态范围（120dB），能够在车辆和无人机等高速平台中部署。然而，事件的高度稀疏和波动性对基于人工神经网络（ANNs）的传统目标检测技术构成了挑战。相比之下，脉冲神经网络（SNNs）由于其固有的时间动态性，在表示基于事件的数据方面非常适用。我们特别演示了膜电位动力学如何在波动事件上调节网络活动，并增强稀疏输入的特征。此外，脉冲触发的自适应阈值可以稳定训练，进一步提高网络性能。基于这一点，我们开发了一种高效的用于基于事件的目标检测的脉冲特征金字塔网络。我们的提出的 SNN 在 Gen1 基准数据集上取得了显著的成绩，达到了 47.7％的平均精度（map50），超过了以前最好的 SNN 9.7％，并展示了 SNN 在基于事件的视觉领域的潜力。我们的模型具有简洁的结构，同时保持了高精度和更低的计算成本，这是稀疏计算的结果。我们的代码将公开提供。

    Jul, 2023

  • 基于脉冲神经网络的汽车事件数据目标检测

    通过使用事件摄像头直接训练尖峰神经网络，以设计快速高效的汽车嵌入式应用程序，并且采用了最新的尖峰反向传播方法，成功地针对 GEN1 汽车检测事件数据集提出了尖峰神经网络实现目标检测的方法。

    May, 2022

  • Spike-FlowNet: 基于事件的光流估计与节能混合神经网络

    该论文介绍了一个基于 Spike-FlowNet 的深度混合神经网络体系结构，用于有效地估计来自稀疏事件相机输出的光流，同时提供了显着的计算效率。

    Mar, 2020

  • EAS-SNN: 基于递归脉冲神经网络的端到端自适应采样和表征用于事件检测

    基于事件相机和脉冲神经网络的自适应采样模块实现了在动态范围和时间分辨率高、光照条件恶劣的场景下的物体检测的全新学习框架，并通过在神经形态学数据集上的测试表明其在参数数量和时间步数方面具有更优异的性能。

    Mar, 2024

  • 超低延迟高精度物体检测的脉冲神经网络

    提出了两种方法并创造了一种名为 SUHD 的基于 SNN 的超低延迟、高精度物体检测模型，相对于 Spiking-YOLO，SUHD 在 MS COCO 数据集上可以大约减少 750 倍的时间步，同时提高了 30％的平均精度 (mAP)。

    Jun, 2023

  • 基于时间关注机制的尖峰神经网络用于事件流分类

    该论文提出了一种基于时间注意力的尖峰神经网络模型来处理事件流，能够有效地提取时空特征，提高分类准确率。

    Jul, 2021

  • 高效高速物体检测的 SNNs

    这篇论文提出了一种高效快速的脉冲神经网络模型用于目标检测，在量化训练、神经网络修改以及伪量化方案的基础上，利用前馈積分 - 发射神经元实现了高速目标检测，实验证明，该模型在 GPU 上可实现 118 倍加速，参数仅为 1.5MB，在 FPGA 平台上达到了 800+FPS 的目标检测并且延迟极低。

    Sep, 2023

  • 超越分类：直接训练脉冲神经网络实现语义分割

    本论文探讨了脉冲神经网络在语义分割方面的应用，通过替代全连接层和使用替代梯度学习方法，将基本的全卷积网络和 DeepLab 架构重构为 SNN 域的网络。实验表明，相较于 ANN 网络，SNN 网络在这个领域更加稳健和节能。

    Oct, 2021