May, 2023

高效基于脉冲编码的图像去噪的神经信息编码

PDF
TL;DR通过使用 Leaky Integrate and Fire 神经元，我们研究了脉冲神经网络在高斯去噪任务中的性能，结果表明相对于深度卷积神经网络，SNN 能够在降低计算负载的情况下提供有竞争力的去噪性能。
deep convolutional neural networksspiking neural networksgaussian denoisingleaky integrate and fire neuronscomputational efficiency
发现论文，激发创造
  • 基于低活动度监督下的卷积脉冲神经网络应用于语音命令识别

    本文提出了一种使用 Leaky-Integrate-Fire (LIF) 神经元模型的堆叠扩张卷积脉冲层的模型，在保持非常稀疏的脉冲活动的情况下，可以在 Google SC v1 数据集上实现接近标准 DNN 的 5.5% 的误差率，证明了 SNNs 在语音识别方面的可行性。

    Nov, 2020

  • 基于脉冲神经元的脑启发式多层感知器

    本文介绍了如何在多层感知器（MLP）中使用漏泄整合和火（LIF）神经元来构建以 SNN 为灵感的神经网络机制，通过改进局部特征沟通机制来提高精度，最终在 ImageNet 数据集上取得 81.9％至 83.5％的 top-1 准确度的最新成果。

    Mar, 2022

  • 深脉冲耦合神经网络

    通过使用脉冲耦合神经网络（PCNN）取代常用的漏积分 - 发放神经元（LIF）模型神经元，我们构建了深度脉冲耦合神经网络（DPCNN），进而改善了 SNNs 在视觉任务中的表达能力和识别性能。同时，我们还提出了接受域和时间依赖批归一化（RFTD-BN）来加速 DPCNNs 的收敛和性能。

    Dec, 2023

  • 使用 LIF 神经元对深度网络进行脉冲处理

    使用 LIF 神经元训练脉冲深度网络，并在 CIFAR-10 和 MNIST 数据集上实现了最先进的结果。通过软化 LIF 响应函数并添加噪声，我们的方法旨在实现在神经形态硬件上训练深度网络的快速、高效的图像分类。

    Oct, 2015

  • 脉冲神经网络的直接训练：更快，更大，更好

    通过提出神经元规范化技术和直接学习算法，以及缩小速率编码窗口和将漏电整合 - 击发（LIF）模型转换为显式迭代版本的 Pytorch 实现方法，训练了高性能的 CIFAR10 数据集上的深度 SNN，开辟了探究 SNN 潜力的新途径。

    Sep, 2018

  • 基于线性漏电积分 - 火神经元模型的脉冲神经网络及其与深度神经网络的映射关系

    该研究建立了生物参数和人工神经网络参数之间精确的数学映射关系，并证明了两者之间存在的映射关系，从而为两种类型的神经网络的潜在组合提供了理论基础。

    May, 2022

  • DIET-SNN：深度脉冲神经网络中的泄漏和阈值优化直接输入编码

    DIET-SNN 是一种低延迟、经过梯度下降训练以优化膜泄漏和阈值等参数的深度脉冲神经网络，直接应用图像的模拟像素值以进行图像分类，并实现了比传统的 ANN 更高的计算效率。

    Aug, 2020

  • 为神经形态硬件训练脉冲深度网络

    本文介绍了一种方法，该方法可以训练使用 Leaky Integrate-and-Fire（LIF）神经元的脉冲深度网络，并在包括大型 ImageNet ILSVRC-2012 基准测试在内的五个数据集上取得了最先进的结果。该方法可扩展，并适用于各种神经非线性。通过软化神经响应函数以使其导数保持有界，并通过噪声训练网络，我们实现了这些结果，以提高其承受由脉冲引入的变异性的鲁棒性。我们的分析表明，在神经形态硬件上实现这些网络将比传统硬件上等效的非脉冲网络更加节能。

    Nov, 2016

  • 使用逐层稀疏编码和 STDP 学习的生物启发型脉冲卷积神经网络

    本文探讨了一种新颖的生物启发式脉冲卷积神经网络，该网络以贪心的分层方式进行训练，将由脉冲卷积 - 池化层和提取独立视觉特征的特征发现层组成，使用局部学习训练卷积层内的卷积核并利用概率性、泄漏整流集成火 (LIF) 神经元从输入刺激中提取独立特征。实验结果表明，该模型能够轻松进行多层次学习，并且具有噪声鲁棒性。

    Nov, 2016

  • 深度脉冲神经网络的固有对抗鲁棒性：离散输入编码和非线性激活的影响

    本文介绍了潜在的对抗攻击抗干扰能力强的脉冲神经网络（SNN），以及研究表明使用 Poisson 编码器的输入离散化和 Leaky-Integrate-Fire (LIF) 神经元的泄漏率增加可提高其在 CIFAR 数据集上的对抗准确性。

    Mar, 2020