基于 Loihi 的传导式脉冲图神经网络
本文研究了基于神经形态计算在计算机视觉领域中的可扩展性,为了实现在降低功耗的同时达到非神经形态计算的性能。我们将深度神经网络架构 U-Net 转化为脉冲神经网络架构,并采用 ISBI 2D EM Segmentation 数据集对其进行训练和优化。我们提出了一种优化多芯片网络部署的分区方法,并探讨了对定期发放率进行正则化以最小限度地减少精度损失和优化能量消耗的优势。最终在 Intel Loihi 神经形态芯片上进行的神经形态实现比传统硬件 (CPU,GPU) 在线运行时节省能源的倍数,同时在不牺牲网络的任务性能准确性的情况下实现了这些功率改进。
Jun, 2021
该论文介绍了基于生物启发式的脉冲神经元的神经形态计算中,如何支持具有完全可编程动态范围的状态耦合脉冲神经元模型,并用这些模型在模拟实验中高效处理流数据的示例。其中,我们提出了一种可以计算短时傅里叶变换和光流估计的算法,并展示了使用谐振器级联的变体来复制耳蜗的新特性及其激励的有效脉冲谱图编码器的结果。
Nov, 2021
本文介绍了一种方法,该方法可以训练使用 Leaky Integrate-and-Fire(LIF)神经元的脉冲深度网络,并在包括大型 ImageNet ILSVRC-2012 基准测试在内的五个数据集上取得了最先进的结果。该方法可扩展,并适用于各种神经非线性。通过软化神经响应函数以使其导数保持有界,并通过噪声训练网络,我们实现了这些结果,以提高其承受由脉冲引入的变异性的鲁棒性。我们的分析表明,在神经形态硬件上实现这些网络将比传统硬件上等效的非脉冲网络更加节能。
Nov, 2016
本文介绍了第三代神经网络 —— 脉冲神经网络(Spiking Neural Networks,SNNs),阐述了它们与传统的深度神经网络(Deep Neural Networks,DNNs)相比的优点和特点,重点讨论了如何将经过训练的 DNNs 转换为 SNNs,并实现了在 Intel Loihi 芯片上实现 SNNs 的实时手势识别等应用。
May, 2020
本文提出了 SpikingGCN,一个将 GCN 的嵌入与 SNN 的生物保真特性整合在一起的端到端框架,实现了在众多场景中能够达到竞争水平的性能,同时在神经形态芯片上实现了能效的优势,展示了其建立环境友好的机器学习模型的巨大潜力。
May, 2022
本研究开发了一个基于 Keras 的编程接口 NxTF,该接口针对 Loihi 多核架构进行深度卷积 SNNs 的映射,通过评估其在处理稀疏事件数据集和最新 MobileNet 模型方面的性能表现,证明了该编译器在分配模型跨多个处理器核心以及利用 Loihi 重量共享特性压缩模型方面的有效性,达到了资源利用的最佳性能。
Jan, 2021
本文介绍了使用 SNN 和 DVS 结合的方式来实现基于事件的汽车分类器从而应用于自动驾驶,最终在 Intel Loihi 神经形态硬件上实现,并取得了最高 86% 的识别率和 310 mW 的低功耗。
Jul, 2021
神经形态处理器在近年来因其能够实现高效能、高速计算而引起了广泛关注。本研究介绍了一种针对 Loihi 2 处理器设计的 Locally Competitive Algorithm (LCA) 新实现,并通过与 CPU 和 GPU 设备上的 LCA 进行一系列实验性能比较,结果显示 LCA 在 Loihi 2 上的性能较之传统计算设备显著提升,具备更高的效率和更快的处理速度,同时保持类似的重建质量。该研究突出了神经形态处理器,尤其是 Loihi 2,在小型机器人、卫星等资源受限设备上实现智能、自主、实时处理的潜力,为相关应用的推进提供了有价值的工具。总而言之,本研究凸显了神经形态处理器在资源受限设备上高效准确地处理数据的潜力。
Jul, 2023
介绍了一种新颖的脉冲神经网络模型,用于从数据中学习分布式内部表示,通过将之前已被证明可以执行表示学习的非脉冲前馈贝叶斯置信传播神经网络(BCPNN)模型转换为脉冲神经网络,并采用基于在线相关性的 Hebbian-Bayesian 学习和重连机制,呈现出在生物皮层锥体神经元中与 in vitro 低发射率相当的 Poisson 统计量。我们使用线性分类器评估了我们的脉冲模型学习的表示,并展示了与非脉冲 BCPNN 接近,以及当对 MNIST 和 F-MNIST 机器学习基准进行训练时,与其他基于 Hebbian 的脉冲网络竞争力相当。
May, 2023