synaptic weights | BriefGPT

关键词synaptic weights

搜索结果 - 10

Q-SNNs: 量化尖峰神经网络
我们介绍了一种轻量级和硬件友好的量化 SNN（Q-SNN），该方法对突触权重和膜电位进行量化，显著减少内存使用和计算复杂性，提出了一种受信息熵理论启发的新的权重 - 脉冲双重调节（WS-DR）方法，实验证明我们的 Q-SNN 在模型大小和准
PDF15 days ago
神经形态系统中突触调整和最优偏置调整以降低功耗
本文探讨了将生物大脑在食物匮乏时进入低功率模式的类似机制应用于一类神经形态系统中的可能性，其中功耗强烈依赖于突触重量的大小。通过数学模型和仿真，我们特别展示了仔细缩放突触权重可以显著降低功耗（在部分测试用例中达到 80％以上），同时对精度的
PDFa year ago
基於生成回放的評論式學習方法
本研究提出了一种名为 Review Learning 的深度学习连续学习技术，使用神经突触权重中存储的记忆信息生成数据样本，并避免了在数据集转移学习中出现的灾难性遗忘现象，从而在保护数据隐私的前提下，提高了模型的性能表现。在使用三类二分类电
PDF2 years ago
无权重传输的深度学习
本文提出两种机制：神经电路称为 “权值镜像” 和一种修正 Kolen 和 Pollack 于 1994 年提出的算法的方法来解决反馈路径的合适突触权重的学习。经验表明，这些机制对于大型网络的深度学习具有高效和精确的学习能力，且不需要复杂的连
PDF5 years ago
时域中的 Spike 层误差重新分配
这篇文献提出了一种新的反向传播机制来学习突触权重和轴突延迟，解决了突触激活函数不可微分的问题，从而有助于低功耗的事件驱动计算，该方法在训练全连接和卷积神经网络方面表现出色，优于现有的 SNN 和标准 ANN 到 SNN 转换技术，取得了 M
PDF6 years ago
TrueNorth 芯片推理准确性、核心占用和性能协同优化的新学习方法
本文介绍了一种在 TrueNorth 平台上的学习方法，通过约束每个计算副本的随机变量并减少所需的副本数量，可以实现更高的执行效率和更准确的推理，最多可将所需的神经 - 突触核心减少 68.8％或加速 6.5 倍，推理精度略有提高。
PDF8 years ago
离散突触的神经网络中亚支配稠密区域实现简单学习与高计算性能
本文研究神经系统中的离散型突触权重在学习和优化中的应用，并通过学习随机模式来证明其性能。研究发现，这些离散型突触的特定配置可以通过简单学习协议轻松获得，并对干扰具有稳健性。同时，基于局部熵最大化的大偏差度量也提出了一些新的优化算法方案。
PDF9 years ago
随机反馈权重支持深度神经网络学习
提出一种新的深度学习算法，通过随机突触权重与误差信号相乘来学习网络的参数，有效地规避了神经回溯算法在大脑构造中的限制。
PDF10 years ago
二元神经元学习的计算难度来源
通过分析权重空间结构得到 Franz-Parisi 势能解决二元感知器问题，发现权重空间由孤立解构成，而不是非常接近的集群，这些点状集群在权重空间中相距很远，解释了以前观察到的随机局部搜索启发式算法的玻璃态行为。
PDF10 years ago
通过动态电导扰动进行脉冲神经网络中的梯度学习
本文提出了一种估算脉冲神经网络突触权重目标函数梯度的方法，通过测量神经元膜电导动态扰动对目标函数的影响波动，可适用于具有动态突触的传导模型神经元的循环网络，可以解释为一种生物学上合理的突触学习规则。
PDF18 years ago