- PIM-QAT:面向处理内存系统(PIM)的神经网络量化
本研究提出了一种针对处理内存 (PIM) 量化的方法 (PIM-QAT),通过分析训练动态,引入反向传播和前向传播重缩放技术,提出批归一化 (BN) 校准和调整精度训练等技术,有效地解决了硬件约束引起的非理想因素,实现了 PIM 系统中具有 - ICLR通过活动稀疏性和时间上的稀疏反向传播实现高效的循环神经网络结构
通过实现神经元活动的动态稀疏化,提出了一种基于门控循环单元(GRU)并适用于新颖的节能神经形态硬件的递归神经网络(RNN)的通信稀疏离散化解决方案。该模型在不影响任务性能的前提下实现了高效,与现有最先进的循环神经网络模型在语言建模等实际任务 - 一种支持新兴神经编码的资源高效脉冲神经网络加速器
该研究提出了一种新型硬件体系结构,可支持具有新型神经编码的 SNN,并在 FPGA 上对 VGG 神经网络模型进行了部署,从而实现了 25%的功耗和 90%的延迟改善。
- 盲文字体识别:神经形态硬件时空模式识别基准测试
基于 iCub 机器人指尖电容触觉传感器记录了布莱叶盲文字母数据集,以比较前馈和循环脉冲神经网络在 Intel Loihi 神经形态芯片上进行的快速和有效推理,并通过使用代理梯度的 BPTT 进行离线训练和比较,结果表明循环脉冲神经网络在基 - CVPR基于脉冲表示的微分训练高性能低延迟脉冲神经网络
本文提出了一种 Differentiation on Spike Representation (DSR) 方法,利用加权频率编码将射击轨迹编码为射击表示,然后通过对子可微映射的梯度进行 SNN 训练,避免了 SNN 训练中常见的非可微性问 - 超导光电单光子突触的演示
该论文探讨了超导光电硬件作为通往具有前所未有的复杂性和计算能力的人工脉冲神经网络的一种方法,并研究了单光子探测器与约瑟夫森结的单片集成,以实现超导光电突触,并介绍了执行单光子突触前突触信号的模拟加权和时间泄漏积分的电路,响应前突触脉冲速率达 - 电压依赖性突触可塑性(VDSP):基于神经元膜电位的无监督概率赫比规则
本文提出了一种基于脑类的无监督局部学习规则 VDSP,旨在在神经形态硬件上在线实现 Hebb 氏可塑性机制。该规则能够有效降低权值上的爆炸或消失,并且证明了在手写数字识别任务方面,其具有明显的优越性。
- IJCAI脉冲神经网络的最新进展和新前沿
本文从五个主要研究领域综述了脉冲神经网络(SNNs)的最新进展和新的前沿,其中包括关键元素(脉冲神经元模型、编码方法和拓扑结构)、神经形态数据集、优化算法、软件和硬件框架,我们希望这篇调查能帮助研究人员更好地了解 SNNs,并激发新的工作来 - 使用脉冲神经网络演化学习强化学习任务
本研究基于大自然神经系统的启发,应用突触可塑性规则训练带有局部信息的脉冲神经网络,使其适用于神经形态硬件的在线学习。其目的在于通过应用进化算法,使得各种不同任务的学习过程变得更加简单,通过提供一组各种局部信号、数学算子和全局奖励信号来找到最 - 脉冲 Q 学习的深度强化学习
本研究提出了一种名为 DSQN 的深度尖峰 Q 网络,使用非尖峰神经元的膜电压作为 Q 值的表示,可以从高维度的感官输入中直接学习稳健的决策,并在 17 个 Atari 游戏中表现出优异的性能,具有更好的学习稳定性和对抗攻击鲁棒性。
- CarSNN:一种基于 Loihi 神经形态研究处理器的事件驱动自主车辆的高效脉冲神经网络
本文介绍了使用 SNN 和 DVS 结合的方式来实现基于事件的汽车分类器从而应用于自动驾驶,最终在 Intel Loihi 神经形态硬件上实现,并取得了最高 86% 的识别率和 310 mW 的低功耗。
- 使用间脉间隔从脉冲神经网络中得出视觉解释
本文提出了一种新型的 SNNs 生物合理可视化工具 Spike Activation Map,通过探究 SNNs 在各种训练配置及面对对抗样本时内部电位波动的工作方式,SAM 提供了全面的分析,能够更好地训练 SNNs 和节约能源。
- 将传统人工神经网络转化为脉冲神经网络的最优方案
本文介绍了一种将传统人工神经网络转化为脉冲神经网络的新方法,该方法使用门限平衡和软重置机制将权重转移至目标 SNN,以降低转换误差。该方法能够保证几乎不出现精度损失,并且只需要典型 SNN 模拟时间的 1/10,非常适合于对 SNN 极限能 - ICLR利用混合转换和时序相关反向传播使深度脉冲神经网络可行
提出了一种基于深度 Spiking Neural Networks 的计算高效的训练方法,使用一个经过转换后的 SNN 为基础,使用脉冲反向传播进行深度训练,再逐步执行基于时序的反向传播,实现训练复杂度大幅降低,极大地减少了处理输入所需的时 - 基于脉冲神经网络的事件驱动角速度回归
本研究首次提出了使用脉冲神经网络 (SNNs) 对事件相机的数据进行时间回归预测的问题,即预测旋转事件相机的 3 自由度角速度。该研究使用了从真实全景图像生成的合成事件相机数据集,证明了可以成功地训练 SNNs 来执行角速度回归。
- 使用自适应选择阈值的事件驱动特征提取
本文提出了一种针对神经形态硬件性能要求的无人监督特征提取算法,该算法运行简单并通过自适应选择阈值来产生有用的中间信号,以实现网络体态平衡和快速优化系统参数,而不需要后端分类器的运行。
- 基于生物学启发的循环神经网络学习的反向传播时序算法替代方案
通过实时与合适的自上而下学习信号合并本地可用信息,为循环神经网络提供了高效的学习算法,其中包括了神经形态芯片的在线训练,从而拓宽了大脑中的网络学习理解并在实验中得到了验证。
- 一种基于对称 STDP 规则的脉冲神经网络生物学可行的监督学习方法
本文提出了一种基于神经科学中对称性脉冲定时相关塑性规则的生物可行的 SNN 模型,该模型结合生物可行的突触缩放和动态阈值的内在可塑性来实现监督学习,并在标准识别任务中实现了良好的性能,其学习规则基于局部脉冲事件,因此可以轻松应用于神经形态硬 - 使用混合宏观 / 微观级反向传播训练深度脉冲神经网络
提出了一种混合宏 / 微水平反向传播算法(HM2-BP)来训练多层次的尖峰神经网络(SNNs),实现了精确捕捉时间效应,并解决了现有 BP 方法的局限性,在新型 N-MNIST 数据集上取得了 98.88% 的准确率和 99.49% 的准确 - 深入探究脉冲神经网络:VGG 和残差结构
本研究提出一种新颖算法技术生成深度架构的 Spiking Neural Networks,此算法应用于 VGG 和 Residual 网络架构并在 CIFAR-10 和 ImageNet 等图像识别问题上取得了显著的准确率提高,同时证明在