Nov, 2017

BP-STDP: 使用时序相关可塑性近似反向传播

PDF
TL;DR本文提出一种基于事件驱动的脉冲时序依赖可塑性 (Spike-Timing-Dependent Plasticity, STDP) 规则的监督学习方法，可以在保持计算精度的同时提高计算效率，特别适用于脉冲神经网络 (Spiking Neural Networks, SNNs)。实验结果表明，该方法可以较好地处理 XOR 问题、鸢尾花数据以及 MNIST 数据集，表现与传统神经网络相当，甚至比目前最先进的多层 SNNs 效果更好。
spiking neural networkssupervised learningevent-based spike-timing-dependent plasticityintegrate-and-fire neuronscomputational efficiency
发现论文，激发创造
  • 基于 STDP 的突触可塑性神经网络有监督学习算法

    本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

    Mar, 2022

  • Desire Backpropagation: 基于时序相关塑性的多层脉冲神经网络的轻量级训练算法

    该论文介绍了一种名为 desire backpropagation 的方法，它利用 STDP 的权重更新，实现了全局误差最小化和分类准确率的提高；同时，该方法具有 STDP 的神经动力学和计算效率，是一种基于脉冲的监督学习规则。作者使用 desire backpropagation 对 MNIST 和 Fashion-MNIST 图像进行了分类，实验效果良好。

    Nov, 2022

  • 基于时序相关增强塑性的深度无监督学习

    使用深度 - STDP 框架，将卷积网络与由 STDP 聚类过程生成的伪标签同时训练，相比于 k-means 聚类方法，在小型图像数据集上准确度提高了 24.56％且收敛速度提高了 3.5 倍。

    Jul, 2023

  • 一种基于对称 STDP 规则的脉冲神经网络生物学可行的监督学习方法

    本文提出了一种基于神经科学中对称性脉冲定时相关塑性规则的生物可行的 SNN 模型，该模型结合生物可行的突触缩放和动态阈值的内在可塑性来实现监督学习，并在标准识别任务中实现了良好的性能，其学习规则基于局部脉冲事件，因此可以轻松应用于神经形态硬件，有助于理解生物神经系统内部的监督学习信息处理机制。

    Dec, 2018

  • SNNs 中的集成可塑性和网络适应性

    介绍了一种新的基于熵和网络激活的集成学习方法，该方法与仅使用尖峰活动操作的尖峰率神经元修剪技术相结合，用于处理两个脑电图数据集进行分类实验，结果表明这种修剪低尖峰率神经元群集导致更好的泛化能力。

    Mar, 2022

  • 用于高性能脉冲神经网络训练的时空反向传播

    通过结合空间域（SD）和时间相关的时域（TD），并提出了一种适合于梯度下降训练的迭代 LIF 模型，以及脉冲活动的近似导数，本文提出了一种新的时空反向传播（STBP）训练框架，它能够使多层感知器 (MLP) 在静态 MNIST 和动态 N-MNIST 数据集以及自定义对象检测数据集上获得比现有状态 - of-the-art 算法更好的性能。该框架为未来的类脑计算范式探索高性能脉冲神经网络提供了新的视角。

    Jun, 2017

  • 在 SpiNNaker 上使用脉冲神经网络，通过 STDP 和稳态调节进行空间特征的监督学习

    该论文介绍了一种在脉冲神经网络（SNN）上执行监督学习的新方法，通过使用时序相关可塑性（STDP）和稳态调节训练网络以识别空间模式，该方法通过 SpiNNaker 数字架构进行测试，结果表明 SNN 能够以高准确率识别单个训练模式，但当训练模式数量增加时，识别准确率与这些模式之间的相似性有关，该方法可以应用于静态图像的模式识别或计算机网络中的流量分析，其中每个网络数据包代表一个空间模式。

    Dec, 2023

  • 配对竞争神经元：改进突触时序依赖规则（STDP）监督本地学习在脉冲神经网络中的应用

    通过将监督性 Spike Timing-Dependent Plasticity（STDP）与自监督 STDP 相结合，并引入 Paired Competing Neurons（PCN）训练架构，我们提出了一种能在神经形态硬件上进行分类任务训练的 Spiking Neural Networks（SNNs）方法，其方法在 MNIST、Fashion-MNIST 和 CIFAR-10 数据集上表现出比现有的基于 STDP 的方法更优越的性能，同时具备改进的超参数鲁棒性。

    Aug, 2023

  • S-TLLR: 基于 STDP 的脉冲神经网络时间局部学习规则

    提出了一种新的三因素时间局部学习规则 S-TLLR，该规则考虑了神经元之间的因果和非因果关系，可以在边缘设备上进行在线学习，并在图像和手势识别、音频分类和光流估计等应用中取得了高精度和计算复杂度降低的结果。

    Jun, 2023

  • 基于脉冲卷积神经网络中的尖峰时间位移误差反向传播

    本文在先前提出的 STiDi-BP 算法基础上，使用线性逼近计算膜电位对尖峰潜伏期的导数，采用分段线性的 postsynaptic potential 的尖峰神经元来减少计算成本和神经处理的复杂度，并将其扩展到更深的 SNN 与卷积架构中，同时考虑到降低存储量和计算成本，使用二进制权重的卷积 SNN 在 MNIST 和 Fashion-MNIST 数据集上具有近似真实值权重的性能。

    Aug, 2021