Apr, 2021

神经形态算法硬件协同设计用于时间模式学习

PDF
TL;DR本文介绍了一种针对 Leaky Integrate and Fire 神经元的高效训练算法，该算法能够训练 SNN 学习复杂的时空模式，并且通过与硬件结合的方式，展示了神经元和突触基于忆阻器的网络实现的原理及优点。
neuromorphic computingspiking neural networkstemporal dynamicssnn training algorithmsmemristor-based network
发现论文，激发创造
  • 利用神经元和突触滤波器动态特性在深度脉冲神经网络的时空学习中实现利用

    提出一种训练算法，将 SNN 作为无限脉冲响应（IIR）滤波器的网络，以学习 SNN 的时空模式，并构建用于合成和公共数据集的联想记忆和分类器，其准确度优于最先进的方法。

    Feb, 2020

  • 低功耗神经形态处理硬件

    本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面，以解决能效问题。

    Jan, 2019

  • 脉冲神经网络 -- 第二部分：检测时空模式

    本文从认知神经科学方面入手，分析了 Spiking Neural Networks 这种新型生物神经样本学习 / 数据处理模型在模型、训练算法上面的优点和缺点，其中使用了概率模型和时间反向传播算法解决了部分难点，最后在神经元数据集上进行了对比实验.

    Oct, 2020

  • 易于训练和稳健性能的时间编码深度脉冲神经网络

    本文研究了脉冲神经网络的训练方法，将其应用于 CIFAR10 和 ImageNet 数据集中，并采用量化和扰动方式增强其稳健性，最终证明了脉冲神经网络在实际应用中具有高性能和高能效的可行性。

    Sep, 2019

  • 共同学习脉冲神经网络中的突触延迟、权重和自适应

    通过协同学习连接权重、神经元适应过程和突触传播延迟等生物灵感神经元特征，本文展示了脉冲神经网络 (SNN) 在数据处理方面的增强，进而在具有丰富时间动态的任务上表现出与等效人工神经网络 (ANN) 类似大小的最先进效果。

    Sep, 2023

  • 脉冲神经网络中的阿尔法突触函数时态编码：反向传播学习

    本文提出了一种具有生物特征的尖峰神经网络模型，采用相对时间编码方案，使用 BPROP 算法进行监督式训练，并在 MNIST 数据集等分类任务中成功地训练了网络，结果表明该网络具有编码单个神经元时间信息的高计算能力，在视觉决策任务中取得了与人类决策类似的准确性 - 速度的平衡，为实现更复杂的具有生物启示的神经网络架构提供了有效的构建块。

    Jul, 2019

  • 脉冲神经网络的硬件实现与挑战：一项调查

    该文概述了脉冲神经网络及其硬件实现的现状和趋势，介绍了在算法选择和训练机制方面的工作，描述了利用硬件提高该算法特性的策略以及相关的优点和挑战。

    May, 2020

  • 基于前向时间轴的神经形态学在线学习空时模式

    针对脉冲神经网络的在线学习问题，本研究提出了适用于在线学习的神经突触自适应空时学习算法（SOLSA）。相比传统的通过时间反向传播（BPTT）算法，SOLSA 在内存需求上更低，具有更平衡的时间工作负载分配，并且通过调度权重更新、提前停止训练和自适应突触滤波等增强技术，提高了收敛速度和学习性能。与其他非 BPTT 基于的脉冲神经网络学习方法相比，SOLSA 在平均学习准确度上表现出 14.2% 的提升。此外，SOLSA 相比于 BPTT，在平均学习准确度提高了 5% 的同时，内存成本减少了 72%。

    Jul, 2023

  • 带有突触延迟的时间脉冲神经网络用于图形推理

    SNNs, when combined with synaptic delay and temporal coding, demonstrate efficient graph reasoning and achieve significant energy savings compared to non-spiking networks.

    May, 2024

  • 神经形态硬件上的超低功耗图像分类

    基于时间编码的 ANN 到 SNN 转换方法 Quartz 在神经形态硬件上实现了高分类准确性，通过时间编码在功耗、吞吐量和延迟方面具有优势。

    Sep, 2023