使用逐层稀疏编码和 STDP 学习的生物启发型脉冲卷积神经网络

Nov, 2016

使用逐层稀疏编码和 STDP 学习的生物启发型脉冲卷积神经网络

Bio-Inspired Spiking Convolutional Neural Network using Layer-wise Sparse Coding and STDP Learning

Amirhossein Tavanaei, Anthony S. Maida

TL;DR本文探讨了一种新颖的生物启发式脉冲卷积神经网络，该网络以贪心的分层方式进行训练，将由脉冲卷积 - 池化层和提取独立视觉特征的特征发现层组成，使用局部学习训练卷积层内的卷积核并利用概率性、泄漏整流集成火 (LIF) 神经元从输入刺激中提取独立特征。实验结果表明，该模型能够轻松进行多层次学习，并且具有噪声鲁棒性。

Abstract

Hierarchical feature discovery using non-spiking convolutional neural networks (CNNs) has attracted much recent interest in machine learning and computer vision. However, it is still not well understood how to create a

spiking cnn unsupervised learning biologically plausible feature discovery mnist dataset

发现论文，激发创造

基于脉冲神经元的脑启发式多层感知器

本文介绍了如何在多层感知器（MLP）中使用漏泄整合和火（LIF）神经元来构建以 SNN 为灵感的神经网络机制，通过改进局部特征沟通机制来提高精度，最终在 ImageNet 数据集上取得 81.9％至 83.5％的 top-1 准确度的最新成果。

Mar, 2022

突触深度网络无监督再生式学习层次化特征以进行对象识别

提出一种基于脉冲的非监督递归学习方案，用于使用生物学上可信的漏积分放电神经元训练 Spiking Deep Networks (SpikeCNN) 进行目标识别问题。训练方法基于自编码器学习模型，其中分层网络使用编码器 - 解码器原理逐层训练。递归学习使用脉冲时序信息和固有延迟以无监督方式更新权重并学习每个卷积层的代表水平。从层次结构中学到的特征然后馈送到一个输出层。所提议的方法在 MNIST/CIFAR10 数据集上产生了与现有技术水平相当的分类错误率，并通过基于事件的编码引入稀疏性来提高计算效率。

Feb, 2016

基于局部连接的脉冲神经网络用于无监督特征学习

使用局部连接层和时序性突触可塑性规则的脉冲神经网络 (LC-SNNs) 能够优化图像分类任务，其通过接受来自不同位置输入的竞争性抑制相互交互的方式实现生物神经元的拓扑特征，并在两个图像数据集上表现出先进水平的分类精度并展示了较强的稳健性能。

Apr, 2019

基于低活动度监督下的卷积脉冲神经网络应用于语音命令识别

本文提出了一种使用 Leaky-Integrate-Fire (LIF) 神经元模型的堆叠扩张卷积脉冲层的模型，在保持非常稀疏的脉冲活动的情况下，可以在 Google SC v1 数据集上实现接近标准 DNN 的 5.5% 的误差率，证明了 SNNs 在语音识别方面的可行性。

Nov, 2020

高效基于脉冲编码的图像去噪的神经信息编码

通过使用 Leaky Integrate and Fire 神经元，我们研究了脉冲神经网络在高斯去噪任务中的性能，结果表明相对于深度卷积神经网络，SNN 能够在降低计算负载的情况下提供有竞争力的去噪性能。

May, 2023

基于 STDP 的突触可塑性神经网络有监督学习算法

本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

Mar, 2022

深脉冲耦合神经网络

通过使用脉冲耦合神经网络（PCNN）取代常用的漏积分 - 发放神经元（LIF）模型神经元，我们构建了深度脉冲耦合神经网络（DPCNN），进而改善了 SNNs 在视觉任务中的表达能力和识别性能。同时，我们还提出了接受域和时间依赖批归一化（RFTD-BN）来加速 DPCNNs 的收敛和性能。

Dec, 2023

用于高性能脉冲神经网络训练的时空反向传播

通过结合空间域（SD）和时间相关的时域（TD），并提出了一种适合于梯度下降训练的迭代 LIF 模型，以及脉冲活动的近似导数，本文提出了一种新的时空反向传播（STBP）训练框架，它能够使多层感知器 (MLP) 在静态 MNIST 和动态 N-MNIST 数据集以及自定义对象检测数据集上获得比现有状态 - of-the-art 算法更好的性能。该框架为未来的类脑计算范式探索高性能脉冲神经网络提供了新的视角。

Jun, 2017

深入研究直接训练更大尺寸的脉冲神经网络

提出了一种基于阈值相关批归一化（tdBN）和空间时间反向传播（STBP）的方法，可直接训练深度脉冲神经网络（SNN），并在神经形态硬件上实现其推理，单次训练达到了 93.15% 的 CIFAR-10 准确率、67.8% 的 DVS-CIFAR10 准确率和 67.05% 的 ImageNet 准确率，是第一次在 ImageNet 上探索具有高性能的直接训练的深度 SNN。

Oct, 2020

利用生物神经元属性的卷积神经网络

通过结合生物神经元原理，使用基于神经科学的计算模型来增强训练效率和提高准确性，以推动组合感受野模型作为卷积神经网络的基础层，从而在 CIFAR-10、CIFAR-100 和 ImageNet-100 数据集上实现性能显著提升（平均提升 5%-10%）

Nov, 2023