ICMLMay, 2024

带有突触延迟的时间脉冲神经网络用于图形推理

PDF
TL;DRSNNs, when combined with synaptic delay and temporal coding, demonstrate efficient graph reasoning and achieve significant energy savings compared to non-spiking networks.
spiking neural networksgraph reasoningtemporal codingsynaptic delayenergy efficiency
发现论文，激发创造
  • 共同学习脉冲神经网络中的突触延迟、权重和自适应

    通过协同学习连接权重、神经元适应过程和突触传播延迟等生物灵感神经元特征，本文展示了脉冲神经网络 (SNN) 在数据处理方面的增强，进而在具有丰富时间动态的任务上表现出与等效人工神经网络 (ANN) 类似大小的最先进效果。

    Sep, 2023

  • 脉冲神经网络 -- 第二部分：检测时空模式

    本文从认知神经科学方面入手，分析了 Spiking Neural Networks 这种新型生物神经样本学习 / 数据处理模型在模型、训练算法上面的优点和缺点，其中使用了概率模型和时间反向传播算法解决了部分难点，最后在神经元数据集上进行了对比实验.

    Oct, 2020

  • 易于训练和稳健性能的时间编码深度脉冲神经网络

    本文研究了脉冲神经网络的训练方法，将其应用于 CIFAR10 和 ImageNet 数据集中，并采用量化和扰动方式增强其稳健性，最终证明了脉冲神经网络在实际应用中具有高性能和高能效的可行性。

    Sep, 2019

  • 自适应脉冲循环神经网络精确高效的时间域分类

    本文介绍了一种使用新颖代理梯度和可调谐自适应尖峰神经元的循环网络，将基于脉冲的神经网络的性能提高至具有挑战性的时间域基准的最新水平，并展示了这些 SNN 的计算效率比具有可比性能的 RNN 高出一到三个数量级，从而使 SNN 成为 AI 硬件实现的有吸引力的解决方案。

    Mar, 2021

  • 利用神经元和突触滤波器动态特性在深度脉冲神经网络的时空学习中实现利用

    提出一种训练算法，将 SNN 作为无限脉冲响应（IIR）滤波器的网络，以学习 SNN 的时空模式，并构建用于合成和公共数据集的联想记忆和分类器，其准确度优于最先进的方法。

    Feb, 2020

  • 基于大脑启发的图形脉冲神经网络用于常识知识表示和推理

    本文研究了神经元人口编码和峰值时间相关可塑性机制如何整合进学习脉冲神经网络中，以及如何通过奖励调节峰值时间相关可塑性机制实现相关推理任务，并构造巨型知识图的脉冲神经网络表征。

    Jul, 2022

  • 使用注意力驱动的脉冲神经网络增强图表示学习

    本文提出了一个将注意机制与脉冲神经网络 (SNN) 相结合的新方法，以改进图表示学习的能力。该方法能够在学习过程中选择性地关注图中重要的节点和相应的特征，并在多个基准数据集上进行评估，结果显示其性能与现有的图学习技术相当。

    Mar, 2024

  • SiGNN: 动态图表示学习的基于脉冲激发的图神经网络

    通过融合 SNN 和 GNN 并应用新颖的 Temporal Activation 机制，该研究提出了一种名为 SiGNN 的框架，用于在动态图上学习增强的时空表示，通过在多个时间粒度上深入分析动态图中的演化模式实现多尺度时空节点表示。实验证明 SiGNN 在节点分类任务中具有出色的性能。

    Mar, 2024

  • 神经形态算法硬件协同设计用于时间模式学习

    本文介绍了一种针对 Leaky Integrate and Fire 神经元的高效训练算法，该算法能够训练 SNN 学习复杂的时空模式，并且通过与硬件结合的方式，展示了神经元和突触基于忆阻器的网络实现的原理及优点。

    Apr, 2021

  • 脉冲神经网络的最新进展和新前沿

    本文从五个主要研究领域综述了脉冲神经网络（SNNs）的最新进展和新的前沿，其中包括关键元素（脉冲神经元模型、编码方法和拓扑结构）、神经形态数据集、优化算法、软件和硬件框架，我们希望这篇调查能帮助研究人员更好地了解 SNNs，并激发新的工作来推进这一领域。

    Mar, 2022