使用 Fowler-Nordheim 量子隧穿进行设备本地突触存储的巩固
该研究提出了一种混合精度神经网络训练框架,其中包含基于 eNVM 的计算存储单元来执行加权求和操作和另一个 SRAM 单元,在硬件中存储权重更新时的误差和所需的脉冲数。通过采用 28 纳米铁电场效应晶体管作为神经元间的突触器件并融合训练算法,该架构在存在设备和周期变化的情况下实现了达到 95%的推理精度,被与浮点实现相比较。
Feb, 2022
传统半导体集成电路正逐渐接近基础尺度极限。近期出现了许多潜在解决方案来补充或替代基础设备所构建的技术和数据处理架构。神经形态电路是一种有前途的计算方法,利用大脑实现高效性的技术。许多现有的神经形态电路依赖于新技术的非凡和有用性质来更好地模拟大脑的运作。本文介绍了一种用于深度单通量量子神经形态网络的设计方法。基于 SFQ 技术的突触和神经元电路被提出并表征。基于这些基本单元,通过在体系结构和电路级别上进行评估,实现了广泛的分类边界。该方法不使用非传统超导设备或半导体晶体管。由外部电流调整的结果网络使得该系统成为可扩展的低温神经形态计算的有效方法。
Sep, 2023
通过引入在线联邦学习,提出了一种基于 SNN 的在线联邦学习规则,称为 FL-SNN,通过局部和全局反馈信号实现协作训练,从而解决了有限数据的问题,并在通信负载和准确度之间实现了灵活的权衡。
Oct, 2019
该研究提出了一种基于 SYNaptic consolidation 和 dual memory experience replay 的通用 CL 方法,通过维护语义记忆来实现跨任务信息的累积和巩固,并结合突触巩固以实现高效的连续学习,不需要使用任务标签。
Jun, 2022
本文提出了一个新的生命周期学习的方法,命名为记忆感知突触 (Memory Aware Synapses),它计算神经网络参数的重要性,并根据重要性进行惩罚以防止重要知识被覆盖,这与大脑学习过程的 Hebb 规则有相关性。在物体识别任务和嵌入学习任务中,该方法表现出最先进的性能。
Nov, 2017
通过全光神经元、光子突触的结合实现了小规模的全光神经元系统,这种用于神经元和突触之间信息交流的新型系统比传统计算机更高效,尤其对于高带宽任务如通讯和图像处理尤为适用。
Feb, 2021
我们提出一种基于费米模型的量子神经网络,其物理特性作为输出,并建立了与反向传播相媲美的高效优化,在具有挑战性的经典机器学习基准上具有竞争力的准确度,并且在量子系统上实现高精度且不需要预处理的机器学习,此外研究结果可用于量子纠缠分析和可解释的机器学习。
Nov, 2022