Jun, 2024

自适应突触电路增强尖峰神经网络的时空预测学习

PDF
TL;DR本文提出了一种新的时空电路（STC）模型，通过集成两个可学习的自适应路径来增强尖峰神经元的时间记忆和空间协调能力，从而解决现有 SNN 模型在处理复杂、动态的时空预测任务中缺乏长期时序依赖性建模和空间信息交互能力的问题。通过在多个时空预测数据集上进行广泛的实验，证明了该模型优于其他自适应模型，并且与现有的尖峰神经元模型兼容，丰富了 SNN 的特异性和拓扑复杂性。
spiking neural networkssnnsspatio-temporal circuitlong-term temporal dependenciesadaptive models
发现论文，激发创造
  • 神经形态算法硬件协同设计用于时间模式学习

    本文介绍了一种针对 Leaky Integrate and Fire 神经元的高效训练算法，该算法能够训练 SNN 学习复杂的时空模式，并且通过与硬件结合的方式，展示了神经元和突触基于忆阻器的网络实现的原理及优点。

    Apr, 2021

  • 共同学习脉冲神经网络中的突触延迟、权重和自适应

    通过协同学习连接权重、神经元适应过程和突触传播延迟等生物灵感神经元特征，本文展示了脉冲神经网络 (SNN) 在数据处理方面的增强，进而在具有丰富时间动态的任务上表现出与等效人工神经网络 (ANN) 类似大小的最先进效果。

    Sep, 2023

  • 利用神经元和突触滤波器动态特性在深度脉冲神经网络的时空学习中实现利用

    提出一种训练算法，将 SNN 作为无限脉冲响应（IIR）滤波器的网络，以学习 SNN 的时空模式，并构建用于合成和公共数据集的联想记忆和分类器，其准确度优于最先进的方法。

    Feb, 2020

  • 脉冲神经网络的突触阈值协同学习方法

    本文发展了一种新的 SNN 训练方法，即突触阈值协同学习 (Synapse-Threshold Synergistic Learning)，该方法同时训练 SNN 中的突触权重和阈值。研究结果表明，与仅使用突触学习或阈值学习的 SNN 相比，使用本文方法训练的 SNN 在各种静态和神经形态数据集上都具有明显更高的准确性，且可通过引入广义联合决策框架进一步提高性能。

    Jun, 2022

  • 在 SpiNNaker 上使用脉冲神经网络，通过 STDP 和稳态调节进行空间特征的监督学习

    该论文介绍了一种在脉冲神经网络（SNN）上执行监督学习的新方法，通过使用时序相关可塑性（STDP）和稳态调节训练网络以识别空间模式，该方法通过 SpiNNaker 数字架构进行测试，结果表明 SNN 能够以高准确率识别单个训练模式，但当训练模式数量增加时，识别准确率与这些模式之间的相似性有关，该方法可以应用于静态图像的模式识别或计算机网络中的流量分析，其中每个网络数据包代表一个空间模式。

    Dec, 2023

  • 基于局部连接的脉冲神经网络用于无监督特征学习

    使用局部连接层和时序性突触可塑性规则的脉冲神经网络 (LC-SNNs) 能够优化图像分类任务，其通过接受来自不同位置输入的竞争性抑制相互交互的方式实现生物神经元的拓扑特征，并在两个图像数据集上表现出先进水平的分类精度并展示了较强的稳健性能。

    Apr, 2019

  • 基于前向时间轴的神经形态学在线学习空时模式

    针对脉冲神经网络的在线学习问题，本研究提出了适用于在线学习的神经突触自适应空时学习算法（SOLSA）。相比传统的通过时间反向传播（BPTT）算法，SOLSA 在内存需求上更低，具有更平衡的时间工作负载分配，并且通过调度权重更新、提前停止训练和自适应突触滤波等增强技术，提高了收敛速度和学习性能。与其他非 BPTT 基于的脉冲神经网络学习方法相比，SOLSA 在平均学习准确度上表现出 14.2% 的提升。此外，SOLSA 相比于 BPTT，在平均学习准确度提高了 5% 的同时，内存成本减少了 72%。

    Jul, 2023

  • 基于 STDP 的突触可塑性神经网络有监督学习算法

    本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

    Mar, 2022

  • 短期突触可塑性脉冲神经元形成更优秀的生成网络

    本文提出利用短期可塑性为脉冲神经网络提供与非脉冲神经网络不同的计算优势，并使用节约的局部突触可塑性模拟温度相关技术来解决网络计算困难性问题。这些网络在处理生成任务时表现出出色性能，在任务不平衡的情况下，它们甚至可以胜过传统算法。

    Sep, 2017

  • 无监督的带缺陷突触的前额皮层尖峰神经网络模型用于研究任务切换

    通过使用脉冲神经网络（SNN）模拟前额叶皮层（PFC）的可塑性和行为缺陷，本研究桥接了生物真实模型和在模式识别任务中表现良好模型之间的差距，并探索了神经元如何适应和响应于短和长时间刺激变化下的任务

    May, 2023