Nov, 2016

为神经形态硬件训练脉冲深度网络

PDF
TL;DR本文介绍了一种方法，该方法可以训练使用 Leaky Integrate-and-Fire（LIF）神经元的脉冲深度网络，并在包括大型 ImageNet ILSVRC-2012 基准测试在内的五个数据集上取得了最先进的结果。该方法可扩展，并适用于各种神经非线性。通过软化神经响应函数以使其导数保持有界，并通过噪声训练网络，我们实现了这些结果，以提高其承受由脉冲引入的变异性的鲁棒性。我们的分析表明，在神经形态硬件上实现这些网络将比传统硬件上等效的非脉冲网络更加节能。
spiking deep networkslif neuronsimagenetneuromorphic hardwarepower-efficiency
发现论文，激发创造
  • 使用 LIF 神经元对深度网络进行脉冲处理

    使用 LIF 神经元训练脉冲深度网络，并在 CIFAR-10 和 MNIST 数据集上实现了最先进的结果。通过软化 LIF 响应函数并添加噪声，我们的方法旨在实现在神经形态硬件上训练深度网络的快速、高效的图像分类。

    Oct, 2015

  • 脉冲神经网络的直接训练：更快，更大，更好

    通过提出神经元规范化技术和直接学习算法，以及缩小速率编码窗口和将漏电整合 - 击发（LIF）模型转换为显式迭代版本的 Pytorch 实现方法，训练了高性能的 CIFAR10 数据集上的深度 SNN，开辟了探究 SNN 潜力的新途径。

    Sep, 2018

  • 为训练深度神经网络架构实现基于脉冲的反向传播

    通过引入近似导数方法和基于脉冲的反向传播方法，本文提出一种可以直接训练深度脉冲神经网络的方法，实验结果表明，该方法在 MNIST、SVHN 和 CIFAR-10 数据集上取得了比其他基于脉冲的神经网络更好的分类效果。

    Mar, 2019

  • 基于脉冲神经元的脑启发式多层感知器

    本文介绍了如何在多层感知器（MLP）中使用漏泄整合和火（LIF）神经元来构建以 SNN 为灵感的神经网络机制，通过改进局部特征沟通机制来提高精度，最终在 ImageNet 数据集上取得 81.9％至 83.5％的 top-1 准确度的最新成果。

    Mar, 2022

  • 基于低活动度监督下的卷积脉冲神经网络应用于语音命令识别

    本文提出了一种使用 Leaky-Integrate-Fire (LIF) 神经元模型的堆叠扩张卷积脉冲层的模型，在保持非常稀疏的脉冲活动的情况下，可以在 Google SC v1 数据集上实现接近标准 DNN 的 5.5% 的误差率，证明了 SNNs 在语音识别方面的可行性。

    Nov, 2020

  • Spiker：面向脉冲神经网络的 FPGA 优化硬件加速

    该研究开发了一种基于 Xilinx Artix-7 FPGA 的硬件加速器，用于高性能 Spiking Neural Networks 推理，评估了该加速器的推理能力，并与现有的加速器进行比较。

    Jan, 2022

  • 高效基于脉冲编码的图像去噪的神经信息编码

    通过使用 Leaky Integrate and Fire 神经元，我们研究了脉冲神经网络在高斯去噪任务中的性能，结果表明相对于深度卷积神经网络，SNN 能够在降低计算负载的情况下提供有竞争力的去噪性能。

    May, 2023

  • 提高前馈神经网络在脉冲神经形态芯片中的分类准确性

    使用新的二进制硬件跨棒学习算法实现深度神经网络在 TrueNorth 芯片上的部署，可在以前工作的基础上实现显著提高（76％与 86％准确度）同时保持良好的性能 MNIST 手写数据集。

    May, 2017

  • 一种用于图像分割的脉冲神经网络

    本文研究了基于神经形态计算在计算机视觉领域中的可扩展性，为了实现在降低功耗的同时达到非神经形态计算的性能。我们将深度神经网络架构 U-Net 转化为脉冲神经网络架构，并采用 ISBI 2D EM Segmentation 数据集对其进行训练和优化。我们提出了一种优化多芯片网络部署的分区方法，并探讨了对定期发放率进行正则化以最小限度地减少精度损失和优化能量消耗的优势。最终在 Intel Loihi 神经形态芯片上进行的神经形态实现比传统硬件 (CPU，GPU) 在线运行时节省能源的倍数，同时在不牺牲网络的任务性能准确性的情况下实现了这些功率改进。

    Jun, 2021

  • 基于线性漏电积分 - 火神经元模型的脉冲神经网络及其与深度神经网络的映射关系

    该研究建立了生物参数和人工神经网络参数之间精确的数学映射关系，并证明了两者之间存在的映射关系，从而为两种类型的神经网络的潜在组合提供了理论基础。

    May, 2022