融入神经形态计算的大脑启示全局 - 局部学习
本研究使用元学习发现网络如何利用反馈机制和本地、仿生学习规则,以进行在线信用分配,并超越了现有的基于梯度的算法在回归和分类任务方面的性能,特别是在持续学习方面表现优异,结果表明存在一类生物可行的学习机制,不仅匹配梯度下降,而且还克服了其局限性。
Jun, 2020
提出了一个受海马体和前额叶皮质启发的生物学上可行的元学习模型,其使用尖峰神经网络和基于奖励的学习系统来实现在低数据条件下的快速学习并避免了灾难性遗忘,并且可以轻松地应用于脉冲神经形态学设备和在 few-shot 分类任务中展示了其与现有技术的竞争力。
Jun, 2023
低功耗、自主学习的人工智能 (AI) 系统对于能够应用于边缘设备并快速适应特定场景的需求日益增长。本文将学习到学习 (L2L) 的概念与基于相变存储器设备的内存计算神经形态硬件 (NMHW) 相结合,构建了能够快速适应新任务的高效 AI 模型。通过两种场景的实证表明了我们方法的多功能性:一个卷积神经网络进行图像分类,以及一个生物启发的脉冲神经网络为真实机械臂生成运动指令。这两个模型在少量参数更新的情况下快速学习,并在 NMHW 上性能与软件等效。此外,这些模型的元训练可以在高精度的软件环境中完成,无需准确的硬件模型。
Apr, 2024
基于混合信号神经形态硬件实现的模型基于强化学习(MBRL)利用脉冲神经网络(SNNs)的硬件实现方法,通过在线学习(“清醒” 阶段)和离线学习(“梦境” 阶段)的交替,兼具混合信号神经形态芯片的能耗优势和高样本效率,通过由真实和模拟经验组成的代理网络和生成模拟经验的学习世界模型网络两个互补网络的模型验证,成功训练硬件实现来玩 Atari 游戏 Pong,相比基础线索的代理网络学习,加入梦境大大减少了所需真实游戏经验的数量,并且这些结果为能耗高效的神经形态学习系统在真实世界的应用和用例中的快速学习铺平了道路。
May, 2024
通过全光神经元、光子突触的结合实现了小规模的全光神经元系统,这种用于神经元和突触之间信息交流的新型系统比传统计算机更高效,尤其对于高带宽任务如通讯和图像处理尤为适用。
Feb, 2021
本文首先回顾了神经形态计算的动机和驱动力,然后讨论了该领域的主要研究方向,包括神经启发式模型、算法和学习方法、硬件和设备、支持系统以及应用,并给出了未来研究的主要方向和目标。
May, 2017
本研究基于大自然神经系统的启发,应用突触可塑性规则训练带有局部信息的脉冲神经网络,使其适用于神经形态硬件的在线学习。其目的在于通过应用进化算法,使得各种不同任务的学习过程变得更加简单,通过提供一组各种局部信号、数学算子和全局奖励信号来找到最佳学习规则,我们发现通过这种方法可以成功解决 XOR 和车杆任务,并发现新的学习规则优于文献中的基准规则。
Feb, 2022
本文介绍支持皮层网络和深度神经网络模型的仿生处理器架构的调查和优点,这些架构从串行时钟实现的多神经元系统到纯数字系统和混合模拟 / 数字系统,实现更类似生物神经系统的神经元和突触模型,并描述了需要解决的挑战。
Jun, 2015
使用新的二进制硬件跨棒学习算法实现深度神经网络在 TrueNorth 芯片上的部署,可在以前工作的基础上实现显著提高(76%与 86%准确度)同时保持良好的性能 MNIST 手写数据集。
May, 2017