Aug, 2020

DIET-SNN：深度脉冲神经网络中的泄漏和阈值优化直接输入编码

PDF
TL;DRDIET-SNN 是一种低延迟、经过梯度下降训练以优化膜泄漏和阈值等参数的深度脉冲神经网络，直接应用图像的模拟像素值以进行图像分类，并实现了比传统的 ANN 更高的计算效率。
spiking neural networksdiet-snngradient descentcomputational efficiencyimage classification
发现论文，激发创造
  • 脉冲神经网络的直接训练：更快，更大，更好

    通过提出神经元规范化技术和直接学习算法，以及缩小速率编码窗口和将漏电整合 - 击发（LIF）模型转换为显式迭代版本的 Pytorch 实现方法，训练了高性能的 CIFAR10 数据集上的深度 SNN，开辟了探究 SNN 潜力的新途径。

    Sep, 2018

  • 为训练深度神经网络架构实现基于脉冲的反向传播

    通过引入近似导数方法和基于脉冲的反向传播方法，本文提出一种可以直接训练深度脉冲神经网络的方法，实验结果表明，该方法在 MNIST、SVHN 和 CIFAR-10 数据集上取得了比其他基于脉冲的神经网络更好的分类效果。

    Mar, 2019

  • 基于低活动度监督下的卷积脉冲神经网络应用于语音命令识别

    本文提出了一种使用 Leaky-Integrate-Fire (LIF) 神经元模型的堆叠扩张卷积脉冲层的模型，在保持非常稀疏的脉冲活动的情况下，可以在 Google SC v1 数据集上实现接近标准 DNN 的 5.5% 的误差率，证明了 SNNs 在语音识别方面的可行性。

    Nov, 2020

  • 高效基于脉冲编码的图像去噪的神经信息编码

    通过使用 Leaky Integrate and Fire 神经元，我们研究了脉冲神经网络在高斯去噪任务中的性能，结果表明相对于深度卷积神经网络，SNN 能够在降低计算负载的情况下提供有竞争力的去噪性能。

    May, 2023

  • 深入研究直接训练更大尺寸的脉冲神经网络

    提出了一种基于阈值相关批归一化（tdBN）和空间时间反向传播（STBP）的方法，可直接训练深度脉冲神经网络（SNN），并在神经形态硬件上实现其推理，单次训练达到了 93.15% 的 CIFAR-10 准确率、67.8% 的 DVS-CIFAR10 准确率和 67.05% 的 ImageNet 准确率，是第一次在 ImageNet 上探索具有高性能的直接训练的深度 SNN。

    Oct, 2020

  • 深度脉冲神经网络的固有对抗鲁棒性：离散输入编码和非线性激活的影响

    本文介绍了潜在的对抗攻击抗干扰能力强的脉冲神经网络（SNN），以及研究表明使用 Poisson 编码器的输入离散化和 Leaky-Integrate-Fire (LIF) 神经元的泄漏率增加可提高其在 CIFAR 数据集上的对抗准确性。

    Mar, 2020

  • 提高深度脉冲神经网络训练性能的有效方法

    本文介绍了一种新型的深度脉冲神经网络（DSN），它可以直接进行参数训练，不需要先用传统深度神经网络的训练结果来初始化；研究表明，在 DSN 中控制反向路径的膜电位初始值是非常重要的，同时本文提出了一种简单而有效的方法可以加快 DSN 的收敛时间并提高准确性。

    Nov, 2016

  • 利用混合转换和时序相关反向传播使深度脉冲神经网络可行

    提出了一种基于深度 Spiking Neural Networks 的计算高效的训练方法，使用一个经过转换后的 SNN 为基础，使用脉冲反向传播进行深度训练，再逐步执行基于时序的反向传播，实现训练复杂度大幅降低，极大地减少了处理输入所需的时间步骤。

    May, 2020

  • 一个时间步长就足够了：使用超低延迟训练脉冲神经网络

    本文提出了一种针对脉冲神经网络的迭代初始化及重训练方法 (IIR-SNN) 来进行单次推断，在保证精度的情况下将时延降到了极致，实验结果表明，该方法不仅具有可比较的性能，而且比同类算法在能效方面提高了 25-33 倍，相当于标准深度神经网络的性能。

    Oct, 2021

  • 使用反向传播训练深度脉冲神经网络

    该论文介绍了一种新技术，将尖峰神经元的电位视为可微信号，从而在较少的精度损失的情况下通过误差反向传播机制直接对尖峰信号和电位进行训练，这使得深度尖峰神经网络比以往的间接训练方法表现更好，能够更精确地捕获尖峰的静态特征。测试结果表明，该算法在 MNIST 和 N-MNIST 数据集上比以往的 SNNs 方法表现更好。

    Aug, 2016