Nov, 2024
IKUN:保持脉冲神经网络训练和泛化性能的初始化方法
IKUN: Initialization to Keep snn training and generalization great with
sUrrogate-stable variaNce
TL;DR本研究解决了传统权重初始化方法在脉冲神经网络(SNNs)中的不足,提出了一种新颖的IKUN初始化方法,采用了方差稳定的技术及替代梯度函数。IKUN能显著加速收敛,提高训练和泛化准确率,实验证明训练效率提高了50%,实现了95%的训练准确率和91%的泛化准确率。