Mar, 2023

适应性结构演化与生物可实现突触可塑性的循环脉冲神经网络

PDF
TL;DR本论文提出了一种新型的 LSM 学习模型，该模型集成了自适应结构进化和多尺度生物学习规则，该方法在不同的决策任务上的实验结果表明引入液态层的结构进化和 DA-BCM 的调节可以提高决策能力，并灵活适应规则反转。
spiking neural networkliquid state machineadaptive structural evolutionneuroplasticitydecision-making
发现论文，激发创造
  • 脑启发的脉冲神经网络的进化架构

    通过自然进化形成的人脑复杂而独特的神经网络拓扑结构使其能够同时执行多个认知功能，本文通过引入模块化结构和全局互连性来进化脉冲神经网络的架构，同时提出一种高性能、高效能、低能耗的多目标进化算法，通过对静态数据集和神经形态数据集的广泛实验证明了所提出模型的能效提升和稳定优异的性能，并初步探索了人脑生物神经网络的进化机制。

    Sep, 2023

  • 深度脉冲神经网络的多尺度进化神经架构搜索

    本论文提出了一种基于大脑多尺度拓扑结构的多尺度进化神经架构搜索算法 (MSE-NAS)，通过基于神经激发的间接评估函数 (表示不同矩阵 RDMs) 演化单个神经元操作，从而得到具有卓越可扩展性和迁移性的 SNN 架构。实验结果表明，该算法在静态数据集 (CIFAR10, CIFAR100) 和神经形态数据集 (CIFAR10-DVS 和 DVS128-Gesture) 上均取得了最新技术水平 (SOTA) 的性能表现，而不需要训练，同时不影响在不同尺度上的生物解释性。

    Apr, 2023

  • 基于反向知识蒸馏的生物启发式结构学习与脉冲神经网络

    本文提出了一种基于进化算法的结构构建方法，通过集成知识蒸馏和连接修剪方法，优化 SNN 的突触连接以达到最优状态，并在 CIFAR100 和 DVS-Geste 上进行了实验，结果表明该方法可以在降低连接冗余的同时获得良好的性能。

    Apr, 2023

  • 演化自组成神经网络：从自发活动到经验依赖学习

    基于神经发育程序的一类自组织神经网络模型，具有可塑性，并能从经历中学习和适应不同的控制任务。结果表明，在需要快速适应或具有非稳态奖励的环境中，结构可塑性是有益的。

    Jun, 2024

  • 自适应稀疏结构的剪枝和再生在脉冲神经网络中的应用

    本文提出了一种适应性结构发展的 SNN 方法，引入树突棘突触可塑性、神经元修剪和突触再生，通过神经元修剪、突触限制和突触再生等机制，检测和移除了 SNN 的大量冗余，实现了优化压缩并降低网络能耗。在实验中表明，该方法可以在不同任务中学习适当的压缩率并显著降低网络能耗。

    Nov, 2022

  • ESL-SNNs：针对脉冲神经网络的进化结构学习策略

    本文提出了一种名为 ESL-SNN 的高效进化结构学习框架，用于实现从头开始的稀疏 SNN 训练，通过探索时间上的所有可能参数，使 ESL-SNN 可以有效地学习具有稀疏结构的 SNN 并降低精度损失，从而具有在低功耗和小内存使用量下进行 SNN 轻量级培训和推理的巨大潜力。

    Jun, 2023

  • 基于脉冲神经网络的贝叶斯连续学习

    本文提出了一种基于贝叶斯持续学习框架，以及在线学习规则用于进行神经形态工程，以实现能够适应变化学习任务的特性和风险管理，同时产生良好校准的不确定性估计的真正的神经形态系统的设计。

    Aug, 2022

  • SNNs 中的集成可塑性和网络适应性

    介绍了一种新的基于熵和网络激活的集成学习方法，该方法与仅使用尖峰活动操作的尖峰率神经元修剪技术相结合，用于处理两个脑电图数据集进行分类实验，结果表明这种修剪低尖峰率神经元群集导致更好的泛化能力。

    Mar, 2022

  • 具有自修改网络的元强化学习

    提出了一个新型的元强化学习模型，MetODS，利用动态连接权重和突触可塑性来进行连续的自我反思修改，实现了在代理策略空间中高效和强大的控制规则的学习。

    Feb, 2022

  • 基于发育可塑性启发的深度脉冲和人工神经网络自适应修剪

    本文提出了一种发育可塑性启发的自适应剪枝方法，可以动态优化神经网络结构，使其学习效率和速度得到持续和显著的提高，尤其是对于神经形态学数据集的脉冲神经网络而言。

    Nov, 2022