Mar, 2022

神经形态学数据增强用于脉冲神经网络训练

HTML
PDF
TL;DR提出了一种Neuromorphic Data Augmentation（NDA）方法，通过简单的几何变换，对基于事件的数据集进行数据增强，从而显著稳定Spiking Neural Networks（SNNs）的训练，同时减少训练与测试性能之间的泛化差距，并在神经形态视觉基准上展示了NDA相较于之前最先进结果提高了精度。
发现论文，激发创造
  • SpikeGrad：一种用于使用脉冲实现反向传播的等效ANN计算模型

    研究了如何通过事件驱动的神经形态系统中的脉冲事件来离散化梯度，在 MNIST 和 CIFAR10 数据集上取得了与全精度梯度相媲美或更好的精度。该算法称为SpikeGrad。

    Jun, 2019

  • 比较神经形态计算机视觉数据集上的SNN和RNN：相似之处与差异

    本研究对SNN和RNN（包括Vanilla RNN和LSTM）进行了对比研究，并通过对视觉数据集进行实验，创新性地改进了RNN的丢失函数和调整了数据集的时间分辨率以测试模型的鲁棒性和概括能力。

    May, 2020

  • ES-ImageNet:百万事件流分类数据集，用于脉冲神经网络

    本研究提出了一种稳健的算法OmniDirectional Discrete Gradient (ODG)将ILSVRC2012计算机视觉数据集转换为其事件流版本，生成了大约130万帧图像，转换成1000类ES样本，提供了一个软件完全生成的ES数据集ES-ImageNet，并通过多种方式分析了其性能和统计信息

    Oct, 2021

  • 通过解决脉冲神经网络退化的关键问题推进深度残差学习

    通过提出一种新的残差块并将其应用于神经形态计算的SNN，本文成功扩展了SNN的深度，获得了较高的准确率和极低的能量消耗。

    Dec, 2021

  • SNN框架：面向数据科学的软件综述和SpykeTorch扩展

    本研究回顾了9种用于建立SNNs的框架，重点介绍探究不同类型研究最适合框架的可能性的神经元模型和学习规则的可用性，并提供了一个扩展版本的SpykeTorch框架，向用户提供更广泛的可嵌入SNNs的神经元模型选择，并公开了代码。

    Feb, 2023

  • Razor SNN：具有时态嵌入的高效脉冲神经网络

    通过全局时态嵌入动态机制扩展、特征重建和训练阶段适应性强调事件效应等，我们提出了一种称为 Razor SNN 的事件稀疏化尖峰框架，从而在四个基于事件的基准数据集上实现了竞争性的性能。

    Jun, 2023

  • SpikingJelly: 一个面向脉冲智能的开源机器学习基础设施平台

    该研究论文介绍了SpikingJelly框架，它是一个全套工具包，用于预处理神经形态学数据集、构建深度SNN、优化其参数并将其部署到神经形态芯片。通过SpikingJelly框架，深度SNN的训练速度可以加快11倍，且其卓越的可扩展性和灵活性使用户能够以较低成本通过多级继承和半自动代码生成加速定制模型。SpikingJelly为合成真正高能效的基于SNN的机器智能系统铺平了道路，丰富了神经形态计算的生态系统。

    Oct, 2023

  • 基于事件驱动的脉冲神经网络学习

    通过两种新型事件驱动学习方法（STD-ED 和 MPD-ED），本研究在静态和神经形态数据集上进行了广泛评估，证实它们在 CIFAR-100 数据集上分别超过现有事件驱动算法 2.51% 和 6.79%。此外，本研究理论上和实验上验证了这些方法在神经形态硬件上的能量效率，其芯片内学习实验在时间步长代理梯度方法上实现了显著的 30 倍能量消耗减少。所提出的事件驱动学习方法的效率和功效强调了它们在神经形态计算领域中的潜力，为能源效率应用提供了有前景的途径。

    Mar, 2024

  • 深度状态空间模型的可扩展事件处理神经形态感知信号

    本研究探讨了使用完全事件驱动的处理方法和基于现代循环深度状态空间模型的事件流建模来实现几个事件流基准测试的最新性能。

    Apr, 2024

  • NeuroMoCo：一种用于脉冲神经网络的神经形态动量对比学习方法

    本文介绍了一种名为神经形态的动力对比学习（NeuroMoCo）的方法，该方法通过自监督预训练的方式有效激发了脉冲神经网络的潜力，并使用适用于时间特征的MixInfoNCE损失函数进一步提高了神经形态数据集的分类准确性，实验证明其在DVS-CIFAR10、DVS128Gesture和N-Caltech101数据集上均取得了新的最先进结果，分别为83.6%、98.62%和84.4%。

    Jun, 2024