该研究介绍了一种新型自适应尖峰循环神经网络，能够在边缘人工智能硬件上实现比其他尖峰神经网络更高的性能，几乎达到或超过经典递归神经网络的性能，并展示了在更难的任务上超过经典递归神经网络的$>$100倍能量改进。

May, 2020

本文介绍了一种使用新颖代理梯度和可调谐自适应尖峰神经元的循环网络，将基于脉冲的神经网络的性能提高至具有挑战性的时间域基准的最新水平，并展示了这些SNN的计算效率比具有可比性能的RNN高出一到三个数量级，从而使SNN成为AI硬件实现的有吸引力的解决方案。

Mar, 2021

本文提出了基于SNN的生成语言模型SpikeGPT，利用二进制、SNN的事件驱动稀疏激活单元，将传统的注意力机制修改为逐步输入机制，并在多个数据集上验证了其性能与能耗，结果表明SpikeGPT在处理自然语言生成任务时表现出色并且能耗显著降低。

Feb, 2023

提出了一个新的离线离散时间算法，基于通过时间的1D卷积进行模拟，来学习深度前馈SNN中的延迟并提高其表现，这一算法使用了可学习间隔的扩张卷积（DCLS），在测试中表现优于最新技术，为时序数据处理中精确模型的发展提供了潜力。

Jun, 2023

神经形态计算及尤其是脉冲神经网络(SNNs)作为深度神经网络的一种有吸引力的替代方法，已广泛应用于处理来自不同感觉模态的静态和/或时间输入的信号处理应用。本文从算法和优化创新的最新进展开始，旨在高效训练和扩展低延迟、能源高效的复杂机器学习应用中的脉冲神经网络(SNNs)。然后，我们讨论了算法-架构共设计方面的最新研究成果，探索在实现高能效和低延迟的同时仍提供高准确性和可信性之间的固有权衡。然后，我们描述了为有效利用这种算法创新而开发的基础硬件。尤其是，我们描述了一种混合方法，即在内存组件和传感器本身中整合模型计算的重要部分。最后，我们讨论了构建可部署SNN系统的研究前景，重点是算法-硬件-应用共设计领域的关键挑战，强调了可信性。

Dec, 2023

本研究提出了一种名为SparseProp的新颖的基于事件的算法，用于模拟和训练稀疏的脉冲神经网络，并通过每个网络脉冲将前向传递和反向传递的计算复杂度从O(N)降低到O(log(N))，从而实现了大规模脉冲网络的准确模拟和高效训练。

Dec, 2023

通过与时空模型的交叉研究，本文探索了脉冲神经网络在长范围序列建模方面的潜力，并证明其在各种任务和图像分类方面均优于当前最先进的神经网络模型，为在神经形态学硬件上实现高效能耗的长范围序列建模奠定了基础。

Dec, 2023

通过引入新颖的Lyapunov Noise Pruning (LNP)算法和利用各类散度来设计一个稳定的、计算效率高的、适用于不同任务的稀疏的异质RSNN模型，本文展示了相对于传统的基于活性剪枝的方法，该任务无关的方法可以增加RSNN的计算效率和预测性能。

Mar, 2024

通过使用生物合理的脉冲机制，我们提出了一种名为SpikeLLM的新型脉冲型大型语言模型，结合了一种名为Optimal Brain Spiking的新型脉冲驱动量化框架，以降低能量消耗并加速推理速度。通过实验证明，SpikeLLM在不同数据集上的表现优于其他类似方法。

Jul, 2024

通过引入神经元和突触动态的异质性，本文结合了三项开创性的研究，从而革新了脉冲神经网络的性能。我们探索了异质性循环脉冲神经网络（HRSNNs）的转变性影响，支持严格的分析框架和新颖的修剪方法，如Lyapunov Noise Pruning（LNP）。我们的发现揭示了异质性不仅可以提高分类性能，而且还可以减少脉冲活动，从而实现更高效和更强大的网络。通过将理论洞见与实际应用结合起来，这个全面的摘要突显了脉冲神经网络在维持较低计算成本的同时超越传统神经网络的潜力。让我们一起领略为智能、高效的神经计算铺平道路的最前沿进展。

Jul, 2024