Jun, 2023

深度单脉冲网络与深度 ReLU 网络的训练轨迹是否等价?

TL;DR使用精细神经网络 (SNNs) 进行训练的鲁棒性不如人工神经网络 (ANNs) 的鲁棒性。提出了一种解决方法,基于 ReLU 到时间第一次触发 (TTFS) SNNs 的映射算法,推导出了用于网络初始化和 SNN 参数化的通用解决方案,可使 SNN 与同等 ANN 一样鲁棒地进行训练和微调。这在 CIFAR10 和 PLACES365 数据集上进行了实证,并提出了对于实现低延迟、抗噪声和量化具有鲁棒性的硬件实现进行 SNN 优化的可能性。