基于局部连接的脉冲神经网络用于无监督特征学习
本文探讨了一种新颖的生物启发式脉冲卷积神经网络,该网络以贪心的分层方式进行训练,将由脉冲卷积 - 池化层和提取独立视觉特征的特征发现层组成,使用局部学习训练卷积层内的卷积核并利用概率性、泄漏整流集成火 (LIF) 神经元从输入刺激中提取独立特征。实验结果表明,该模型能够轻松进行多层次学习,并且具有噪声鲁棒性。
Nov, 2016
本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法,用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后,分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。
Mar, 2022
通过将监督性 Spike Timing-Dependent Plasticity(STDP)与自监督 STDP 相结合,并引入 Paired Competing Neurons(PCN)训练架构,我们提出了一种能在神经形态硬件上进行分类任务训练的 Spiking Neural Networks(SNNs)方法,其方法在 MNIST、Fashion-MNIST 和 CIFAR-10 数据集上表现出比现有的基于 STDP 的方法更优越的性能,同时具备改进的超参数鲁棒性。
Aug, 2023
Spiking Neural Networks (SNNs) achieve performance comparable to Artificial Neural Networks (ANNs) in machine learning tasks, with processing done through spikes in an event-based mechanism that reduces energy consumption. However, training SNNs is challenging due to the non-differentiable spiking mechanism, and alternative learning methods with varying degrees of locality have been proposed. This research explores the training process similarities, the influence of explicit recurrence, and the performance of local learning methods under adversarial attacks.
Feb, 2024
该论文介绍了一种在脉冲神经网络(SNN)上执行监督学习的新方法,通过使用时序相关可塑性(STDP)和稳态调节训练网络以识别空间模式,该方法通过 SpiNNaker 数字架构进行测试,结果表明 SNN 能够以高准确率识别单个训练模式,但当训练模式数量增加时,识别准确率与这些模式之间的相似性有关,该方法可以应用于静态图像的模式识别或计算机网络中的流量分析,其中每个网络数据包代表一个空间模式。
Dec, 2023
本文提出了一种基于神经科学中对称性脉冲定时相关塑性规则的生物可行的 SNN 模型,该模型结合生物可行的突触缩放和动态阈值的内在可塑性来实现监督学习,并在标准识别任务中实现了良好的性能,其学习规则基于局部脉冲事件,因此可以轻松应用于神经形态硬件,有助于理解生物神经系统内部的监督学习信息处理机制。
Dec, 2018
使用深度 - STDP 框架,将卷积网络与由 STDP 聚类过程生成的伪标签同时训练,相比于 k-means 聚类方法,在小型图像数据集上准确度提高了 24.56%且收敛速度提高了 3.5 倍。
Jul, 2023
本文介绍了如何在多层感知器(MLP)中使用漏泄整合和火(LIF)神经元来构建以 SNN 为灵感的神经网络机制,通过改进局部特征沟通机制来提高精度,最终在 ImageNet 数据集上取得 81.9%至 83.5%的 top-1 准确度的最新成果。
Mar, 2022
该文章讨论了 Spiking Neural Networks (SNNs) 的局限性,介绍了一种方法来解决这些问题使用无监督学习来快速发现输入数据中的稀疏可识别特征,使 SNNs 成为一种使用未标记数据进行快速、准确、高效、可解释和可重新部署的机器学习的新方法。
Aug, 2022
本文提出一种基于事件驱动的脉冲时序依赖可塑性 (Spike-Timing-Dependent Plasticity, STDP) 规则的监督学习方法,可以在保持计算精度的同时提高计算效率,特别适用于脉冲神经网络 (Spiking Neural Networks, SNNs)。实验结果表明,该方法可以较好地处理 XOR 问题、鸢尾花数据以及 MNIST 数据集,表现与传统神经网络相当,甚至比目前最先进的多层 SNNs 效果更好。
Nov, 2017