Jun, 2021

一种用于图像分割的脉冲神经网络

PDF
TL;DR本文研究了基于神经形态计算在计算机视觉领域中的可扩展性，为了实现在降低功耗的同时达到非神经形态计算的性能。我们将深度神经网络架构 U-Net 转化为脉冲神经网络架构，并采用 ISBI 2D EM Segmentation 数据集对其进行训练和优化。我们提出了一种优化多芯片网络部署的分区方法，并探讨了对定期发放率进行正则化以最小限度地减少精度损失和优化能量消耗的优势。最终在 Intel Loihi 神经形态芯片上进行的神经形态实现比传统硬件 (CPU，GPU) 在线运行时节省能源的倍数，同时在不牺牲网络的任务性能准确性的情况下实现了这些功率改进。
neuromorphic computingcomputer visionspiking neural networkenergy efficiencyintel loihi neuromorphic chip
发现论文，激发创造
  • 神经形态硬件上的超低功耗图像分类

    基于时间编码的 ANN 到 SNN 转换方法 Quartz 在神经形态硬件上实现了高分类准确性，通过时间编码在功耗、吞吐量和延迟方面具有优势。

    Sep, 2023

  • 用混合脉冲神经网络微调进行海马分割

    本文提出了一种基于 ANN-SNN 转换和基于脉冲的反向传播的混合 SNN 训练方案，并将其应用于磁共振图像中人类海马的分割。与转换和直接训练方案相比，我们的方法在分割准确度和训练效率方面具有优势。实验证明了我们模型的有效性。

    Feb, 2023

  • 基于 Loihi 的传导式脉冲图神经网络

    本研究介绍了一种针对 Loihi 2 设计的完全神经形态的尖峰图神经网络实现，利用 Lava 贝叶斯优化优化网络参数，用于引用图分类。结果表明，与现有的浮点实现相比，整型精度的 Loihi 2 兼容尖峰神经网络在引用图分类方面具有可比较的准确性。

    Apr, 2024

  • 一种高效的脉冲神经网络，在 Loihi 神经形态处理器上使用 DVS 摄像机识别手势

    本文介绍了第三代神经网络 —— 脉冲神经网络（Spiking Neural Networks，SNNs），阐述了它们与传统的深度神经网络（Deep Neural Networks，DNNs）相比的优点和特点，重点讨论了如何将经过训练的 DNNs 转换为 SNNs，并实现了在 Intel Loihi 芯片上实现 SNNs 的实时手势识别等应用。

    May, 2020

  • 生物启发计算与深度学习的相遇：从人工神经网络到低延迟、准确、高能效的脉冲神经网络

    通过修改 SNN 整合 - 发射神经元模型和在训练 ANN 过程中使用细粒度 L1 正则化和替代梯度等方法，我们提出了一种新的 ANN 转 SNN 框架，可以以极低的时间步和高级稀疏性实现无损 SNN，低延迟，低计算能耗和高测试准确性（例如，ImageNet 数据集上只有 4 个时间步的准确率为 73.30%）。

    Dec, 2023

  • 超越分类：直接训练脉冲神经网络实现语义分割

    本论文探讨了脉冲神经网络在语义分割方面的应用，通过替代全连接层和使用替代梯度学习方法，将基本的全卷积网络和 DeepLab 架构重构为 SNN 域的网络。实验表明，相较于 ANN 网络，SNN 网络在这个领域更加稳健和节能。

    Oct, 2021

  • 神经形态硬件上机器学习工作量的高效部署

    本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。

    Oct, 2022

  • CarSNN：一种基于 Loihi 神经形态研究处理器的事件驱动自主车辆的高效脉冲神经网络

    本文介绍了使用 SNN 和 DVS 结合的方式来实现基于事件的汽车分类器从而应用于自动驾驶，最终在 Intel Loihi 神经形态硬件上实现，并取得了最高 86% 的识别率和 310 mW 的低功耗。

    Jul, 2021

  • 深度脉冲 UNet 图像处理

    本研究介绍了 Spiking-UNet 的概念，将 Spiking Neural Networks 与 U-Net 架构相结合，在图像处理任务中实现了高效的信息传输和训练策略，与非脉冲版本相比，在图像分割和去噪方面取得了可比较的性能，并且减少了推理时间。

    Jul, 2023

  • 脉冲神经网络的直接训练：更快，更大，更好

    通过提出神经元规范化技术和直接学习算法，以及缩小速率编码窗口和将漏电整合 - 击发（LIF）模型转换为显式迭代版本的 Pytorch 实现方法，训练了高性能的 CIFAR10 数据集上的深度 SNN，开辟了探究 SNN 潜力的新途径。

    Sep, 2018