神经形态学事件驱动的微电网中的语义通信
本篇论文提出了一种全新的神经形态计算无线物联网系统设计,通过整合基于脉冲的传感、处理和通信,每个感测设备都搭载了神经形态传感器、一个脉冲神经网络和多天线脉冲无线电发射器,传输共享衰落信道到具有多天线脉冲无线电接收器和脉冲神经网络的接收器。该系统在多个信道实现中联合训练了导引、编码神经网络、解码神经网络和超级网络,相较于传统的数字帧处理解决方案和非自适应训练方法,大大提高了精度和能耗的指标。
Jun, 2022
提出了一种新的云边框架解决复杂控制系统中的计算和能源限制问题,采用了基于脉冲神经网络 (SNN) 的学习型控制器在物理设备上实施。通过将生物学合理的学习方法与本地可塑性规则结合,我们利用 SNN 的高效性、可扩展性和低延迟,在设备上直接复制云端控制器的控制信号,减少了对常量植物 - 云通信的需求。植物仅在错误超过预定义阈值时更新权重,确保在各种条件下的效率和鲁棒性。在线性工作台系统和卫星交会等场景中(包括避障),我们的架构通过增加网络规模将归一化跟踪误差显著降低了 96%。由于 SNN 的事件驱动特性,其能源消耗最小,仅约为标准计算需求的 111 nJ(0.3%)。结果展示了系统对不断变化的工作环境的调整以及对计算和能源资源的高效利用,与非障碍场景相比,静态和动态障碍物的能源消耗分别增加了 27.2% 和 37%。
Apr, 2024
神经形态计算及尤其是脉冲神经网络 (SNNs) 作为深度神经网络的一种有吸引力的替代方法,已广泛应用于处理来自不同感觉模态的静态和 / 或时间输入的信号处理应用。本文从算法和优化创新的最新进展开始,旨在高效训练和扩展低延迟、能源高效的复杂机器学习应用中的脉冲神经网络 (SNNs)。然后,我们讨论了算法 - 架构共设计方面的最新研究成果,探索在实现高能效和低延迟的同时仍提供高准确性和可信性之间的固有权衡。然后,我们描述了为有效利用这种算法创新而开发的基础硬件。尤其是,我们描述了一种混合方法,即在内存组件和传感器本身中整合模型计算的重要部分。最后,我们讨论了构建可部署 SNN 系统的研究前景,重点是算法 - 硬件 - 应用共设计领域的关键挑战,强调了可信性。
Dec, 2023
本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南,并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术,可显著改进其延迟,功耗和能耗。实验结果表明,与 Intel Neural Compute Stick 2 相比,使用我们的 SNN 改进技术, Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍,能耗降低了最多 5 倍。
Oct, 2022
SpiNNaker2 是一种数字神经形态芯片,用于可扩展机器学习,能够深度整合神经生物系统的计算原理,包括人工神经网络、仿生脉冲神经网络和基于事件的神经网络,并旨在促进未来一代机器学习系统的基于事件和异步算法的发展。
Jan, 2024
这项研究实现了首个基于神经形态学设备的语言模型,在 SpiNNaker 2 芯片上基于一个名为 EGRU 的最新事件驱动架构。该实现标志着神经形态学语言模型首次能与 LSTM 相媲美,为将任务性能提升到大型语言模型水平奠定了基础。
Dec, 2023
使用新的二进制硬件跨棒学习算法实现深度神经网络在 TrueNorth 芯片上的部署,可在以前工作的基础上实现显著提高(76%与 86%准确度)同时保持良好的性能 MNIST 手写数据集。
May, 2017
通过引入在线联邦学习,提出了一种基于 SNN 的在线联邦学习规则,称为 FL-SNN,通过局部和全局反馈信号实现协作训练,从而解决了有限数据的问题,并在通信负载和准确度之间实现了灵活的权衡。
Oct, 2019
本文研究了基于神经形态计算的尖峰神经网络(SNN)模型,用于过滤在高能物理实验中使用的传感器电子学数据。我们提出了一种开发紧凑型神经形态模型的方法,该模型根据粒子的横向动量过滤传感器数据,以减少发送到下游电子设备的数据量。传入的电荷波形被转换为二进制事件流,并由 SNN 进行处理。我们提供了关于各种系统设计选择的见解 —— 从数据编码到训练算法的最佳超参数,为了获得一个精确而紧凑的用于硬件部署的 SNN。我们的结果表明,使用进化算法和优化的超参数训练的 SNN 获得了约 91% 的信号效率,并且参数数量几乎是深度神经网络的一半。
Jul, 2023