基于 SpiNNaker 2 神经形态芯片的语言建模
SpiNNaker2 是一种数字神经形态芯片，用于可扩展机器学习，能够深度整合神经生物系统的计算原理，包括人工神经网络、仿生脉冲神经网络和基于事件的神经网络，并旨在促进未来一代机器学习系统的基于事件和异步算法的发展。
Jan, 2024
本文提供了一种将预先训练的深度神经网络 (DNNs) 转换成脉冲神经网络 (SNNs) 的通用指南，并介绍了一些在神经形态硬件上部署转换后的 SNNs 的技术，可显著改进其延迟，功耗和能耗。实验结果表明，与 Intel Neural Compute Stick 2 相比，使用我们的 SNN 改进技术， Intel 的神经形态处理器 Loihi 在测试的图像分类任务中功耗降低了最多 27 倍，能耗降低了最多 5 倍。
Oct, 2022
探索使用大型语言模型（LLMs）自动生成硬件描述代码的潜力，以支持和增强高效的神经形态计算架构的开发，并通过三个案例研究验证其可行性和实施性。
May, 2024
本文提出了基于 SNN 的生成语言模型 SpikeGPT，利用二进制、SNN 的事件驱动稀疏激活单元，将传统的注意力机制修改为逐步输入机制，并在多个数据集上验证了其性能与能耗，结果表明 SpikeGPT 在处理自然语言生成任务时表现出色并且能耗显著降低。
Feb, 2023
利用 SPLEAT 加速器的嵌入式神经形态测试台成功地在可嵌入设备上训练、评估、量化和部署了脉冲神经网络，通过加载最新的神经网络解决方案，估计了在专门设计的低功耗脉冲神经网络硬件上部署网络所带来的性能损失，并在神经形态硬件上实现了真实世界的基于事件的目标检测，令人惊叹的是，具有 108 万参数的嵌入式脉冲解决方案每个预测只需消耗 490 mJ。
Jun, 2024
通过对比不同的文本编码方法，并在下游的情感分析任务中评估每种方法在相关的脉冲神经网络中的性能，我们提出了一种新的文本编码方法，其在基准的自然语言处理任务上优于一种广泛使用的速率编码技术，峰值率编码，性能提升了约 13%。此外，我们证明了在情感分析任务中，与传统深度神经网络相比，实施在硬件中的脉冲神经网络的能源效率提高了 32 倍以上。
Jan, 2024
本篇论文提出了一种全新的神经形态计算无线物联网系统设计，通过整合基于脉冲的传感、处理和通信，每个感测设备都搭载了神经形态传感器、一个脉冲神经网络和多天线脉冲无线电发射器，传输共享衰落信道到具有多天线脉冲无线电接收器和脉冲神经网络的接收器。该系统在多个信道实现中联合训练了导引、编码神经网络、解码神经网络和超级网络，相较于传统的数字帧处理解决方案和非自适应训练方法，大大提高了精度和能耗的指标。
Jun, 2022
使用新的二进制硬件跨棒学习算法实现深度神经网络在 TrueNorth 芯片上的部署，可在以前工作的基础上实现显著提高（76％与 86％准确度）同时保持良好的性能 MNIST 手写数据集。
May, 2017
通过对腕戴可佩戴式运动传感器进行锻炼识别的案例研究，本研究旨在评估脉冲神经网络在神经形态处理器上对可穿戴设备应用的人体活动识别的有效性，测试结果表明基于脉冲的锻炼识别系统能够达到与传统神经网络相当的准确率（87.5%）以及两倍更好的能量延迟产品（0.66 微焦秒 vs. 1.32 微焦秒）。
Aug, 2023