基于电位归一化的脉冲深度 Q 网络中的尖峰特征信息消失问题解决方案

Jun, 2022

基于电位归一化的脉冲深度 Q 网络中的尖峰特征信息消失问题解决方案

Solving the Spike Feature Information Vanishing Problem in Spiking Deep Q Network with Potential Based Normalization

Yinqian Sun, Yi Zeng, Yang Li

TL;DR本文研究了基于脑启发的脉冲神经网络在强化学习任务中的应用问题，提出了可能基于层规范化方法直接训练脉冲神经网络。实验结果表明，相比于现有的基于人工神经网络和脉冲神经网络转换的方法，在 Atari 游戏任务中，所提出的可能基于层规范化的脉冲深度 Q 网络获得了更好的性能。

Abstract

Brain inspired spiking neural networks (SNNs) have been successfully applied to many pattern recognition domains. The SNNs based deep structure have achieved considerable results in perceptual tasks, such as image classification, target detection. However, the application of deep SNNs

brain-inspired spiking neural networks deep learning reinforcement learning spiking deep q network pattern recognition

发现论文，激发创造

脉冲 Q 学习的深度强化学习

本研究提出了一种名为 DSQN 的深度尖峰 Q 网络，使用非尖峰神经元的膜电压作为 Q 值的表示，可以从高维度的感官输入中直接学习稳健的决策，并在 17 个 Atari 游戏中表现出优异的性能，具有更好的学习稳定性和对抗攻击鲁棒性。

Jan, 2022

将深度 Q 网络转换为事件驱动的脉冲神经网络的策略和基准

本研究旨在将 DNN 转化为 SNN，并在使用深度强化学习进行 ATARI 游戏时提高性能及结果。研究采用新的度量方法和模拟时间参数标准，最终在 17 种 ATARI 游戏中达到最优性能，为以后采用 SNNs 解决深度强化学习任务提供基准和导引。

Sep, 2020

深入研究直接训练更大尺寸的脉冲神经网络

提出了一种基于阈值相关批归一化（tdBN）和空间时间反向传播（STBP）的方法，可直接训练深度脉冲神经网络（SNN），并在神经形态硬件上实现其推理，单次训练达到了 93.15% 的 CIFAR-10 准确率、67.8% 的 DVS-CIFAR10 准确率和 67.05% 的 ImageNet 准确率，是第一次在 ImageNet 上探索具有高性能的直接训练的深度 SNN。

Oct, 2020

为训练深度神经网络架构实现基于脉冲的反向传播

通过引入近似导数方法和基于脉冲的反向传播方法，本文提出一种可以直接训练深度脉冲神经网络的方法，实验结果表明，该方法在 MNIST、SVHN 和 CIFAR-10 数据集上取得了比其他基于脉冲的神经网络更好的分类效果。

Mar, 2019

用于高性能脉冲神经网络训练的时空反向传播

通过结合空间域（SD）和时间相关的时域（TD），并提出了一种适合于梯度下降训练的迭代 LIF 模型，以及脉冲活动的近似导数，本文提出了一种新的时空反向传播（STBP）训练框架，它能够使多层感知器 (MLP) 在静态 MNIST 和动态 N-MNIST 数据集以及自定义对象检测数据集上获得比现有状态 - of-the-art 算法更好的性能。该框架为未来的类脑计算范式探索高性能脉冲神经网络提供了新的视角。

Jun, 2017

提高深度脉冲神经网络训练性能的有效方法

本文介绍了一种新型的深度脉冲神经网络（DSN），它可以直接进行参数训练，不需要先用传统深度神经网络的训练结果来初始化；研究表明，在 DSN 中控制反向路径的膜电位初始值是非常重要的，同时本文提出了一种简单而有效的方法可以加快 DSN 的收敛时间并提高准确性。

Nov, 2016

重新思考规范化和残差块在脉冲神经网络中的作用

通过使用一种新的、简单的归一化技术 ——postsynaptic potential normalization，本研究解决了深度 spiking neural networks 由于隐藏层中 spiking neurons 的过度激发而难以训练的问题，并且可以通过预激活残差块训练多达 100 层，且比其他使用其他规范化方法的模型表现更好。

Mar, 2022

Q-SNNs: 量化尖峰神经网络

我们介绍了一种轻量级和硬件友好的量化 SNN（Q-SNN），该方法对突触权重和膜电位进行量化，显著减少内存使用和计算复杂性，提出了一种受信息熵理论启发的新的权重 - 脉冲双重调节（WS-DR）方法，实验证明我们的 Q-SNN 在模型大小和准确性方面优于现有方法，这些在效率和功效方面的最新成果表明该方法可以显着改善边缘智能计算。

Jun, 2024

基于直接学习的深度脉冲神经网络综述

本文综述了基于直接学习的深度脉冲神经网络研究，重点讨论了提高准确性、提高效率和利用时间动态的方法，并进一步分类和总结。同时，展望了未来研究中可能面临的挑战和趋势。

May, 2023

使用生物合理奖励传播调整卷积脉冲神经网络

该论文提出一种基于奖励传播的算法，该算法应用于脉冲神经网络（SNN）架构中的脉冲卷积和全连接层，该算法能够替代标准反向传播算法，实现对 SNN 的训练。使用该算法的 SNN 在空间和时间任务上的表现已经得到验证，达到了 BP-SNN 的类似准确度并节省了 50％的计算成本。

Oct, 2020