基于尖峰模式的神经网络
这篇论文总结了神经元模型的优点、缺点和适用性,分析了网络拓扑的特性,并从无监督学习和监督学习的角度回顾了脉冲神经网络算法和基于突触可塑性规则的无监督学习算法以及四类监督学习算法,最后专注于国内外正在研究的类脑神经仿真芯片的综述。通过系统的总结,论文旨在为初入脉冲神经网络研究领域的同行提供学习概念和研究方向。
Sep, 2023
本研究基于神经脉冲网络中的超级脉冲非线性电压三因素学习规则,探究了不同信用分配策略对多层神经网络的表现,可促进神经脉冲网络的学习和计算方式的理解。
May, 2017
本文提出利用短期可塑性为脉冲神经网络提供与非脉冲神经网络不同的计算优势,并使用节约的局部突触可塑性模拟温度相关技术来解决网络计算困难性问题。这些网络在处理生成任务时表现出出色性能,在任务不平衡的情况下,它们甚至可以胜过传统算法。
Sep, 2017
本文中,我们尝试一种对称方法:我们通过修改一种易于训练的循环神经网络的动力学来使其基于事件。这种新型 RNN 单元,称为 Spiking Recurrent Cell,因此使用事件即 spike 进行通信,同时可完全区分化。因此,可以使用基本反向传播来训练任何由该 RNN 单元组成的网络。我们展示了这种新的网络在 MNIST 基准测试及其变体 Fashion-MNIST 和 Neuromorphic-MNIST 中可以达到与其他类型的脉冲网络可比较的性能,并且这个新单元使得深度脉冲网络的训练成为可能。
Jun, 2023
通过介绍一种能够在脉冲网络上进行反向传播的算法,我们表明,在脉冲多层感知机(MLP)长时间运行的极限情况下,该网络在预测和训练期间的行为与带有修正线性单元的传统深度网络行为完全相同。我们将此架构应用于传统分类问题(MNIST),并实现了与具有相同架构的传统 MLP 非常接近的性能。此网络对于基于流事件数据的学习具有自然架构,是使用脉冲神经网络高效学习流式数据的基石。
Feb, 2016
本研究证明了在采用了时间编码方案的前馈脉冲网络中,网络输入 - 输出关系在几乎任何地方都是可微的,并且在变量转换后这种关系是分段线性的。此外,我们展示了通过该方法对项独立 MNIST 任务进行训练的结果,从而证明了训练人工神经网络的方法可以直接应用于训练这种脉冲网络。与基于速率的脉冲网络不同的是,我们所提出的网络的脉冲更为稀疏,且其行为不能直接由传统的人工神经网络来近似。这些结果强调了控制具有复杂时间信息的脉冲模式的脉冲网络行为的新方法。
Jun, 2016
脉冲神经网络(SNN)是一种受生物启发的神经网络模型,通过脉冲和脉冲列进行神经元之间的通信,与标准人工神经网络(ANN)不同。本文首先对比了 SNN 和脉冲神经 P 系统(SNPS)的结构、功能、优点和缺点,然后综述了 SNN 和 SNPS 形式化方法在机器学习和深度学习模型中的最新研究成果和应用。
Mar, 2024