脉冲 PointNet:用于点云的脉冲神经网络
使用 SpikePoint 结构,利用事件相机与脉冲神经网络相结合的高效能力,在超低功耗应用场景中实现了优秀的动作识别性能。
Oct, 2023
本论文探讨了脉冲神经网络在语义分割方面的应用,通过替代全连接层和使用替代梯度学习方法,将基本的全卷积网络和 DeepLab 架构重构为 SNN 域的网络。实验表明,相较于 ANN 网络,SNN 网络在这个领域更加稳健和节能。
Oct, 2021
本研究旨在研究脉冲神经网络在目标检测中的性能衰退,并提出了两种新方法:逐通道归一化和具有不平衡阈值的有符号神经元,以提高深度 SNN 的信息传输速度和准确性。最终实现了基于脉冲的目标检测模型,Spiking-YOLO,其结果表现可与 Tiny YOLO 比肩,并且在神经形态芯片上的能耗极低,且比以前的 SNN 转换方法更快。
Mar, 2019
在 AI 边缘计算、自动驾驶汽车和气候变化的时代,需要节能、小型、嵌入式 AI。脉冲神经网络 (SNNs) 是应对这一挑战的有前途的方法,具有事件驱动的信息流和稀疏激活。我们提出了适用于事件数据的脉冲 CenterNet 用于目标检测。它结合了一个 SNN CenterNet 的适应性和一个基于高效 M2U-Net 的解码器。我们的模型在 Prophesee 公司具有挑战性的 GEN1 汽车检测数据集上的性能明显优于可比较的先前工作,同时能使用不到一半的能量。将非脉冲教师的知识蒸馏到我们的 SNN 中进一步提高了性能。据我们所知,我们的工作是脉冲目标检测领域第一个利用知识蒸馏的方法。
Feb, 2024
通过引入生物神经系统启发的突发 - 尖峰机制、基于帕累托前沿驱动算法的再分配爆发 - 射击模式以及基于层特定敏感性自动定位最佳阈值比率的敏感性驱动尖峰压缩技术,在分类和目标检测方面展示出卓越的性能和降低的能量使用,从而推动了基于事件驱动视觉的脉冲神经网络的进展。
Nov, 2023
提出了一种基于阈值相关批归一化(tdBN)和空间时间反向传播(STBP)的方法,可直接训练深度脉冲神经网络(SNN),并在神经形态硬件上实现其推理,单次训练达到了 93.15% 的 CIFAR-10 准确率、67.8% 的 DVS-CIFAR10 准确率和 67.05% 的 ImageNet 准确率,是第一次在 ImageNet 上探索具有高性能的直接训练的深度 SNN。
Oct, 2020
该文章讨论了 Spiking Neural Networks (SNNs) 的局限性,介绍了一种方法来解决这些问题使用无监督学习来快速发现输入数据中的稀疏可识别特征,使 SNNs 成为一种使用未标记数据进行快速、准确、高效、可解释和可重新部署的机器学习的新方法。
Aug, 2022
提出了一种有效的方法,将 ResNet 转换为名为 S-ResNet 的脉冲神经元网络,该方法采用转换模型和补偿机制来降低离散化引起的误差,并在 CIFAR-10,CIFAR-100 和 ImageNet 2012 数据集上实现了比现有 SNN 途径更好的性能,这是第一次在大规模数据集上构建超过 40 层深度的 SNN,并获得与 ANNs 相当的性能。
Apr, 2018
本研究介绍了一种用于文本分类的 “转换 + 微调” 两步方法,提出了一种将预训练词嵌入编码为脉冲训练的简单而有效的方式,并经验证通过使用替代梯度进行微调后,这些转换后的脉冲神经网络在英文和中文数据集上能够以更少的能量消耗与深度神经网络有可比较的结果,并且这样的脉冲神经网络比深度神经网络更鲁棒抵御对抗性攻击。
Jun, 2024