Nov, 2023

应对自适应脉冲神经元的速度 - 准确性模拟权衡

PDF
TL;DR通过算法重新解释自适应泄露积分 - 放电 (ALIF) 模型，我们提供了一种解决神经模型顺序仿真的速度和精确性之间权衡的方法，并实现了在 GPU 上更高效的并行化。在合成基准测试中，我们通过小时间间隔进行了计算验证，获得了超过 50 倍的训练加速度。我们还在不同的监督分类任务上获得了与标准 ALIF 实现相当的性能，但训练时间大大缩短。最后，我们展示了我们的模型如何能够快速而准确地拟合大脑皮层神经元的实际电生理记录，这里精确的微秒级时间间隔对于捕捉确切的尖峰时间至关重要。
adaptive leaky integrate-and-fire modelneural modelssimulation speed-accuracy trade-offparallelisation on gpuselectrophysiological recordings
发现论文，激发创造
  • LIAF-Net: 轻量高效的漏积分模拟火网络用于时空信息处理

    本文提出了一种名为 LIAF-Net 的深度神经网络，并构建了一种新的神经元模型 LIAF，使得模拟值可以在神经元之间传输，以便在时空领域进行有效的处理，实验结果表明，与传统网络相比，其在实现轻量级和高效的时空信息处理方面具有领先的性能和优势。

    Nov, 2020

  • 简单和复杂的尖峰神经元：在简单 STDP 场景下的观点和分析

    本研究比较了三种简单的脉冲神经元模型 (简洁型、二次型和指数型)，利用 Spike-Timing Dependent Plasticity (STDP) 在 N-MNIST 和 DVS Gestures 数据集上测试它们的分类表现，结果显示在数据具备更多的时空特征时，二次型和指数型的神经元模型表现更好，说明根据数据的特征谨慎选择神经元模型，能够提高整个系统的性能。

    Jun, 2022

  • 为神经形态硬件训练脉冲深度网络

    本文介绍了一种方法，该方法可以训练使用 Leaky Integrate-and-Fire（LIF）神经元的脉冲深度网络，并在包括大型 ImageNet ILSVRC-2012 基准测试在内的五个数据集上取得了最先进的结果。该方法可扩展，并适用于各种神经非线性。通过软化神经响应函数以使其导数保持有界，并通过噪声训练网络，我们实现了这些结果，以提高其承受由脉冲引入的变异性的鲁棒性。我们的分析表明，在神经形态硬件上实现这些网络将比传统硬件上等效的非脉冲网络更加节能。

    Nov, 2016

  • 使用 LIF 神经元对深度网络进行脉冲处理

    使用 LIF 神经元训练脉冲深度网络，并在 CIFAR-10 和 MNIST 数据集上实现了最先进的结果。通过软化 LIF 响应函数并添加噪声，我们的方法旨在实现在神经形态硬件上训练深度网络的快速、高效的图像分类。

    Oct, 2015

  • GLIF：用于脉冲神经网络的统一门控泄漏整合火神经元

    本文提出了一个统一脉冲神经元 GLIF，以融合不同的生物特征在不同的神经行为中，从而扩大脉冲神经元的表示空间，增加其异质性和适应性，并通过各种数据集的广泛实验证明了其优越性能。

    Oct, 2022

  • 基于线性漏电积分 - 火神经元模型的脉冲神经网络及其与深度神经网络的映射关系

    该研究建立了生物参数和人工神经网络参数之间精确的数学映射关系，并证明了两者之间存在的映射关系，从而为两种类型的神经网络的潜在组合提供了理论基础。

    May, 2022

  • 神经形态算法硬件协同设计用于时间模式学习

    本文介绍了一种针对 Leaky Integrate and Fire 神经元的高效训练算法，该算法能够训练 SNN 学习复杂的时空模式，并且通过与硬件结合的方式，展示了神经元和突触基于忆阻器的网络实现的原理及优点。

    Apr, 2021

  • 高效基于脉冲编码的图像去噪的神经信息编码

    通过使用 Leaky Integrate and Fire 神经元，我们研究了脉冲神经网络在高斯去噪任务中的性能，结果表明相对于深度卷积神经网络，SNN 能够在降低计算负载的情况下提供有竞争力的去噪性能。

    May, 2023

  • DIET-SNN：深度脉冲神经网络中的泄漏和阈值优化直接输入编码

    DIET-SNN 是一种低延迟、经过梯度下降训练以优化膜泄漏和阈值等参数的深度脉冲神经网络，直接应用图像的模拟像素值以进行图像分类，并实现了比传统的 ANN 更高的计算效率。

    Aug, 2020

  • 基于 STDP 的突触可塑性神经网络有监督学习算法

    本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

    Mar, 2022