Feb, 2022

无权重脉冲神经网络中的时域延迟记忆

PDF
TL;DR本文介绍了一个基于无权重脉冲神经网络的原型，可以通过使用 Spike Timing Dependent Plasticity (STDP) 在神经元之间的时间上进行训练，而非传统的神经连接强度，以进行简单的分类任务。
neurosciencememoryspiking neural networksstdplearning
发现论文，激发创造
  • 共同学习脉冲神经网络中的突触延迟、权重和自适应

    通过协同学习连接权重、神经元适应过程和突触传播延迟等生物灵感神经元特征，本文展示了脉冲神经网络 (SNN) 在数据处理方面的增强，进而在具有丰富时间动态的任务上表现出与等效人工神经网络 (ANN) 类似大小的最先进效果。

    Sep, 2023

  • 轴突延迟作为前馈深度脉冲神经网络的短期记忆

    本文提出了一种短时记忆 / 修正轴突延迟模块用于调节脉冲发放的时间，实现神经元轴突传输的时序信息，并在三个神经视觉公开数据集上进行验证实现。

    Apr, 2022

  • 时间权重

    通过使用具有交互动态的模型来刻画神经网络中的时变权重，我们使用连续动力学和对时间的依赖性的神经 ODE 将时间权重给模型增加，以此来更好地对不规则、稀疏的时间序列数据集进行建模，从而实现更好的性能、更小的模型，和更高的数据效率。

    Dec, 2022

  • 具有无监督学习的全脉冲记忆电阻网络

    本研究基于 memristive neuron 和 memristive synapse 提出了一个完全基于 memristor 的脉冲神经网络 (MSNN)，并采用无监督的 Spiking Time Dependent Plasticity (STDP) 学习规则。我们通过电路模拟验证了 MSNN 的学习效果，并实现了两种类型的 MSNN 结构：一种是生物学合理的记忆检索系统，另一种是用于多类别分类。

    Mar, 2022

  • 神经元的短期可塑性：学习和遗忘

    本研究通过引入一种名为 STP 神经元的新型递归神经单元，利用可塑性存储短期内的遗忘和学习，从而提高了神经网络的效率和计算能力，并在测试中超越了其他模型。

    Jun, 2022

  • 神经形态算法硬件协同设计用于时间模式学习

    本文介绍了一种针对 Leaky Integrate and Fire 神经元的高效训练算法，该算法能够训练 SNN 学习复杂的时空模式，并且通过与硬件结合的方式，展示了神经元和突触基于忆阻器的网络实现的原理及优点。

    Apr, 2021

  • BP-STDP: 使用时序相关可塑性近似反向传播

    本文提出一种基于事件驱动的脉冲时序依赖可塑性 (Spike-Timing-Dependent Plasticity, STDP) 规则的监督学习方法，可以在保持计算精度的同时提高计算效率，特别适用于脉冲神经网络 (Spiking Neural Networks, SNNs)。实验结果表明，该方法可以较好地处理 XOR 问题、鸢尾花数据以及 MNIST 数据集，表现与传统神经网络相当，甚至比目前最先进的多层 SNNs 效果更好。

    Nov, 2017

  • DelGrad：用于学习传输延迟和权重的脉冲网络的精确梯度

    脉冲神经网络在信息表示和处理中依赖信号的时间性。本文提出了一种基于事件的分析方法，可以计算出准确的损失梯度，包括突触权重和传输延迟，丰富了模型的搜索空间。研究结果显示，学习延迟在提高准确性和参数效率方面具有重要优势。

    Apr, 2024

  • 基于 STDP 的突触可塑性神经网络有监督学习算法

    本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

    Mar, 2022

  • 利用快速权重关注近期的过去

    研究表明，人工神经网络可以受益于使用变化速度比神经活动慢但比标准权重快的‘快速权重’，这可以用来存储最近过去的临时记忆并提供一种神经可信的方法来实现最近过去的关注，其中快速权重可以避免存储神经活动模式的需求。

    Oct, 2016