May, 2022

lpSpikeCon: 为自主智能体提供低精度脉冲神经网络处理来实现高效无监督持续学习

PDF
TL;DR提出了一种名为 lpSpikeCon 的低精度 SNN 处理方法，旨在为资源受限的自主系统提供高效的无监督连续学习，该方法将 SNN 参数与推断准确率相关联，并通过在在线训练中巧妙地使用 4 位权重来降低 SNN 模型的权重存储，从而在不降低推断阶段的准确率的情况下，将 SNN 模型的权重存储减少了 8 倍。
snn-based systemsunsupervised continual learninglpspikecon methodologylow-precision snn processingresource-constrained autonomous systems
发现论文，激发创造
  • SNNs 中的集成可塑性和网络适应性

    介绍了一种新的基于熵和网络激活的集成学习方法，该方法与仅使用尖峰活动操作的尖峰率神经元修剪技术相结合，用于处理两个脑电图数据集进行分类实验，结果表明这种修剪低尖峰率神经元群集导致更好的泛化能力。

    Mar, 2022

  • 基于 STDP 的突触可塑性神经网络有监督学习算法

    本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

    Mar, 2022

  • 基于时序相关增强塑性的深度无监督学习

    使用深度 - STDP 框架，将卷积网络与由 STDP 聚类过程生成的伪标签同时训练，相比于 k-means 聚类方法，在小型图像数据集上准确度提高了 24.56％且收敛速度提高了 3.5 倍。

    Jul, 2023

  • SpikeCP：通过合规预测实现延迟自适应的可靠脉冲神经网络

    本文提出一种基于延迟自适应脉冲神经网络的推理方法，旨在通过阈值分类和计数操作结合符合预测的工具实现输入相关的停止时间下的决策可靠性，从而进一步降低脉冲神经网络的能耗。

    May, 2023

  • 探索尖峰神经网络中的连续学习

    通过比较传统模型和第三代机器学习模型（也称为脉冲神经网络架构）的连续学习能力，本研究发现脉冲神经网络模型在保留之前类别信息方面表现更优，但仍需要进行更多工作。

    Oct, 2023

  • 基于脉冲神经网络的贝叶斯连续学习

    本文提出了一种基于贝叶斯持续学习框架，以及在线学习规则用于进行神经形态工程，以实现能够适应变化学习任务的特性和风险管理，同时产生良好校准的不确定性估计的真正的神经形态系统的设计。

    Aug, 2022

  • 一种基于对称 STDP 规则的脉冲神经网络生物学可行的监督学习方法

    本文提出了一种基于神经科学中对称性脉冲定时相关塑性规则的生物可行的 SNN 模型，该模型结合生物可行的突触缩放和动态阈值的内在可塑性来实现监督学习，并在标准识别任务中实现了良好的性能，其学习规则基于局部脉冲事件，因此可以轻松应用于神经形态硬件，有助于理解生物神经系统内部的监督学习信息处理机制。

    Dec, 2018

  • TopSpark: 一种面向自主移动智能体的节能突触神经网络时间步长优化方法

    提出一种名为 TopSpark 的新方法，该方法利用自适应时间步长缩减来实现 Spiking 神经网络的能量有效处理，并在训练和推理中节省能量消耗。TopSpark 通过分析不同时间步长对精度的影响，确定在不同时间步长下对精度有显著影响的神经元参数，利用参数增强使 SNN 使用更少的尖峰活动有效执行学习和推理，并开发一种策略来平衡精度、延迟和能量需求。结果表明，TopSpark 平均节约 SNN 训练的延迟 3.9 倍，节约能源消耗 3.5 倍，推理节能 3.3 倍，同时保持精度与没有时间步长缩减的 SNN 相当。

    Mar, 2023

  • 用于高性能脉冲神经网络训练的时空反向传播

    通过结合空间域（SD）和时间相关的时域（TD），并提出了一种适合于梯度下降训练的迭代 LIF 模型，以及脉冲活动的近似导数，本文提出了一种新的时空反向传播（STBP）训练框架，它能够使多层感知器 (MLP) 在静态 MNIST 和动态 N-MNIST 数据集以及自定义对象检测数据集上获得比现有状态 - of-the-art 算法更好的性能。该框架为未来的类脑计算范式探索高性能脉冲神经网络提供了新的视角。

    Jun, 2017

  • 配对竞争神经元：改进突触时序依赖规则（STDP）监督本地学习在脉冲神经网络中的应用

    通过将监督性 Spike Timing-Dependent Plasticity（STDP）与自监督 STDP 相结合，并引入 Paired Competing Neurons（PCN）训练架构，我们提出了一种能在神经形态硬件上进行分类任务训练的 Spiking Neural Networks（SNNs）方法，其方法在 MNIST、Fashion-MNIST 和 CIFAR-10 数据集上表现出比现有的基于 STDP 的方法更优越的性能，同时具备改进的超参数鲁棒性。

    Aug, 2023