SNNs 中的集成可塑性和网络适应性
本文提出一种基于事件驱动的脉冲时序依赖可塑性 (Spike-Timing-Dependent Plasticity, STDP) 规则的监督学习方法,可以在保持计算精度的同时提高计算效率,特别适用于脉冲神经网络 (Spiking Neural Networks, SNNs)。实验结果表明,该方法可以较好地处理 XOR 问题、鸢尾花数据以及 MNIST 数据集,表现与传统神经网络相当,甚至比目前最先进的多层 SNNs 效果更好。
Nov, 2017
本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法,用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后,分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。
Mar, 2022
本文提出了一种基于神经科学中对称性脉冲定时相关塑性规则的生物可行的 SNN 模型,该模型结合生物可行的突触缩放和动态阈值的内在可塑性来实现监督学习,并在标准识别任务中实现了良好的性能,其学习规则基于局部脉冲事件,因此可以轻松应用于神经形态硬件,有助于理解生物神经系统内部的监督学习信息处理机制。
Dec, 2018
本文发展了一种新的 SNN 训练方法,即突触阈值协同学习 (Synapse-Threshold Synergistic Learning),该方法同时训练 SNN 中的突触权重和阈值。研究结果表明,与仅使用突触学习或阈值学习的 SNN 相比,使用本文方法训练的 SNN 在各种静态和神经形态数据集上都具有明显更高的准确性,且可通过引入广义联合决策框架进一步提高性能。
Jun, 2022
本文提出了一种发育可塑性启发的自适应剪枝方法,可以动态优化神经网络结构,使其学习效率和速度得到持续和显著的提高,尤其是对于神经形态学数据集的脉冲神经网络而言。
Nov, 2022
本文提出了一种适应性结构发展的 SNN 方法,引入树突棘突触可塑性、神经元修剪和突触再生,通过神经元修剪、突触限制和突触再生等机制,检测和移除了 SNN 的大量冗余,实现了优化压缩并降低网络能耗。在实验中表明,该方法可以在不同任务中学习适当的压缩率并显著降低网络能耗。
Nov, 2022
该论文介绍了一种在脉冲神经网络(SNN)上执行监督学习的新方法,通过使用时序相关可塑性(STDP)和稳态调节训练网络以识别空间模式,该方法通过 SpiNNaker 数字架构进行测试,结果表明 SNN 能够以高准确率识别单个训练模式,但当训练模式数量增加时,识别准确率与这些模式之间的相似性有关,该方法可以应用于静态图像的模式识别或计算机网络中的流量分析,其中每个网络数据包代表一个空间模式。
Dec, 2023
本研究基于 memristive neuron 和 memristive synapse 提出了一个完全基于 memristor 的脉冲神经网络 (MSNN),并采用无监督的 Spiking Time Dependent Plasticity (STDP) 学习规则。我们通过电路模拟验证了 MSNN 的学习效果,并实现了两种类型的 MSNN 结构:一种是生物学合理的记忆检索系统,另一种是用于多类别分类。
Mar, 2022
本文研究证明神经元和突触动态的异质性可以降低复杂神经网络的射击活动并提高预测性能,在无监督的学习中实现高效的射击,提高了神经网络的内存容量和分类预测性能。
Feb, 2023
本文提出了一种基于适应性尖峰神经元的调整尖峰神经网络(ASNN),使用形式化的异步脉冲 Sigma-Delta 编码有效地对脉冲列进行信息编码,同时通过调节发放率进行神经元适应性,紧密耦合了神经适应性与突触可塑性,用尖峰神经元替换标准前馈人工神经网络中的 ReLU 神经元,成功地应用于分类 MNIST 数据集的深度卷积神经网络。
Sep, 2016