该研究论文讨论深度脉冲神经网络的训练方法,比较有监督和无监督学习的准确性、计算成本和硬件友好性,发现深度脉冲神经网络在准确性方面仍落后于人工神经网络,但在许多任务中可以达到相同的准确性并需要更少的计算操作。
Apr, 2018
本文综述了基于直接学习的深度脉冲神经网络研究,重点讨论了提高准确性、提高效率和利用时间动态的方法,并进一步分类和总结。同时,展望了未来研究中可能面临的挑战和趋势。
May, 2023
我们提出了一种动态结构发展的脉冲神经网络 (DSD-SNN) 模型,通过动态地分配和增长神经元,并删除多余神经元,提高内存容量,减少计算开销,实现高效自适应的连续学习。我们的模型在多类增量学习和任务增量学习方面验证了其有效性,显著提升性能、学习速度和内存容量,同时在与现有方法的比较中,与基于深度神经网络 (DNNs) 的方法具有可比较的性能,并且明显优于基于脉冲神经网络 (SNNs) 的现有方法的性能。
Aug, 2023
基于大脑启发的自适应神经路径重组的持续学习算法,在增量任务中通过自组织调控网络资源以有效应对多样化的认知任务,表现出卓越的性能、能量消耗和内存容量。具备学习更复杂任务、整合过去学习知识以及自我修复能力的特点。
Sep, 2023
利用课程学习设计一种名为 CSNN 的新方法,研究其对脉冲神经网络(SNNs)的作用,实验证明课程学习对 SNNs 的影响比 ANNs 更为积极,可以通过增加网络稀疏性、神经元的激活状态、抗噪能力和收敛速度来提高约 3% 的 SNNs 准确率。
Dec, 2023
本文提出了一种基于贝叶斯持续学习框架,以及在线学习规则用于进行神经形态工程,以实现能够适应变化学习任务的特性和风险管理,同时产生良好校准的不确定性估计的真正的神经形态系统的设计。
Aug, 2022
引入课程学习(Curriculum Learning)的 CL-SNN 模型旨在提高脉冲神经网络(Spiking Neural Networks)的生物学可行性,通过使用置信度感知损失来区分和处理具有不同难度级别的样本,模型自动减少难样本对参数优化的贡献,实验证明其有效性。
本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面,以解决能效问题。
Jan, 2019
脉冲神经网络(SNN)是一种受生物启发的神经网络模型,通过脉冲和脉冲列进行神经元之间的通信,与标准人工神经网络(ANN)不同。本文首先对比了 SNN 和脉冲神经 P 系统(SNPS)的结构、功能、优点和缺点,然后综述了 SNN 和 SNPS 形式化方法在机器学习和深度学习模型中的最新研究成果和应用。
Mar, 2024
通过引入近似导数方法和基于脉冲的反向传播方法,本文提出一种可以直接训练深度脉冲神经网络的方法,实验结果表明,该方法在 MNIST、SVHN 和 CIFAR-10 数据集上取得了比其他基于脉冲的神经网络更好的分类效果。
Mar, 2019