Jan, 2024

SNNLP: 使用脉冲神经网络的高能效自然语言处理

TL;DR通过对比不同的文本编码方法,并在下游的情感分析任务中评估每种方法在相关的脉冲神经网络中的性能,我们提出了一种新的文本编码方法,其在基准的自然语言处理任务上优于一种广泛使用的速率编码技术,峰值率编码,性能提升了约 13%。此外,我们证明了在情感分析任务中,与传统深度神经网络相比,实施在硬件中的脉冲神经网络的能源效率提高了 32 倍以上。