Mar, 2024

复发射神经网络的异质学习动力学的拓扑表示

PDF
TL;DR该论文介绍了一种使用 RTD（Representation Topology Divergence）比较 Recurrent SNN 模型之间分布式表示差异的新方法，探究了使用 STDP 训练的 RSNN 的学习能力以及异质性在突触动力学学习中的作用。
spiking neural networksneuroscienceartificial intelligencerepresentation topology divergencestdp
发现论文，激发创造
  • 异质神经元和突触动力学实现高效率自主学习：理论与设计原则

    本文研究证明神经元和突触动态的异质性可以降低复杂神经网络的射击活动并提高预测性能，在无监督的学习中实现高效的射击，提高了神经网络的内存容量和分类预测性能。

    Feb, 2023

  • 异质性循环尖峰神经网络用于时空分类

    本文提出了一种具有异构性的回归尖峰神经网络（HRSNN），用于 RGB 和事件数据集（DVS128 手势）上的时空分类视频活动识别任务的非监督学习。 HRSNN 的关键创新点是具有具有不同发射 / 松弛动力学的异构神经元的回归层，它们通过具有不同学习动力学的异构尖峰依赖可塑性（STDP）训练。 我们证明了这种新颖方法在架构和学习方法上的组合优于当前同质性尖峰神经网络，进一步表明 HRSNN 可以实现与现有的基于后向传播训练的监督式 SNN 相似的性能，但使用更少的计算和更少的训练数据。

    Sep, 2022

  • 基于脉冲表示的微分训练高性能低延迟脉冲神经网络

    本文提出了一种 Differentiation on Spike Representation (DSR) 方法，利用加权频率编码将射击轨迹编码为射击表示，然后通过对子可微映射的梯度进行 SNN 训练，避免了 SNN 训练中常见的非可微性问题，该方法在静态和神经形态数据集上具有低延迟和最先进的 SNN 性能。

    May, 2022

  • 在 SpiNNaker 上使用脉冲神经网络，通过 STDP 和稳态调节进行空间特征的监督学习

    该论文介绍了一种在脉冲神经网络（SNN）上执行监督学习的新方法，通过使用时序相关可塑性（STDP）和稳态调节训练网络以识别空间模式，该方法通过 SpiNNaker 数字架构进行测试，结果表明 SNN 能够以高准确率识别单个训练模式，但当训练模式数量增加时，识别准确率与这些模式之间的相似性有关，该方法可以应用于静态图像的模式识别或计算机网络中的流量分析，其中每个网络数据包代表一个空间模式。

    Dec, 2023

  • 表征拓扑差异：用于比较神经网络表征的方法

    提出了基于 Representation Topology Divergence (RTD) 的数据表示比较方法，该方法是 few TDA-based practical methods 之一，可以应用于真实的机器学习数据集，用于对计算机视觉和 NLP 领域中的神经网络表示进行分析。

    Dec, 2021

  • 基于 STDP 的突触可塑性神经网络有监督学习算法

    本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

    Mar, 2022

  • SNNs 中的集成可塑性和网络适应性

    介绍了一种新的基于熵和网络激活的集成学习方法，该方法与仅使用尖峰活动操作的尖峰率神经元修剪技术相结合，用于处理两个脑电图数据集进行分类实验，结果表明这种修剪低尖峰率神经元群集导致更好的泛化能力。

    Mar, 2022

  • 基于时序相关增强塑性的深度无监督学习

    使用深度 - STDP 框架，将卷积网络与由 STDP 聚类过程生成的伪标签同时训练，相比于 k-means 聚类方法，在小型图像数据集上准确度提高了 24.56％且收敛速度提高了 3.5 倍。

    Jul, 2023

  • 基于局部连接的脉冲神经网络用于无监督特征学习

    使用局部连接层和时序性突触可塑性规则的脉冲神经网络 (LC-SNNs) 能够优化图像分类任务，其通过接受来自不同位置输入的竞争性抑制相互交互的方式实现生物神经元的拓扑特征，并在两个图像数据集上表现出先进水平的分类精度并展示了较强的稳健性能。

    Apr, 2019

  • BP-STDP: 使用时序相关可塑性近似反向传播

    本文提出一种基于事件驱动的脉冲时序依赖可塑性 (Spike-Timing-Dependent Plasticity, STDP) 规则的监督学习方法，可以在保持计算精度的同时提高计算效率，特别适用于脉冲神经网络 (Spiking Neural Networks, SNNs)。实验结果表明，该方法可以较好地处理 XOR 问题、鸢尾花数据以及 MNIST 数据集，表现与传统神经网络相当，甚至比目前最先进的多层 SNNs 效果更好。

    Nov, 2017