利用突触可塑性,采用梯度下降算法优化反馈网络的连接权重和可塑性,使得大型反馈可塑网络可以学习、记忆、重构以及元学习各类任务。
Apr, 2018
该研究探讨了大脑皮层神经回路中突触可塑性、神经元之间的连接和电信号传递,指出如何通过训练循环神经网络学习新任务并改变环境适应能力,同时发现人工网络和真实大脑使用相似的计算策略。
Dec, 2022
人和动物终身学习,这对智能至关重要。我们在本章中研究了复杂内部突触动力学的可塑性机制在实现神经网络的终身学习能力中所起的关键作用。通过调查理论研究,我们强调了促进终身学习的两个基本因素:一是突触可塑性机制必须在多个行为相关的时间尺度上保持和演化内部状态;二是可塑性算法必须利用内部状态智能地调节单个突触的可塑性,以便实现对新记忆的无缝整合,并避免对现有记忆的干扰。我们的章节涵盖了这些原理在深度神经网络中的成功应用,并强调了突触元可塑性在维持终身学习能力方面的重要性。最后,我们概述了进一步研究的方向,以了解大脑卓越的终身学习能力,并利用类似机制来开发人工智能系统。
May, 2024
提出了一种基于突触可塑性动态的学习规则,该规则通过融合强化学习和非监督学习模拟误差反馈机制和两个重要机制,包括错误反馈系统以及非监督学习。
Mar, 2023
介绍了一种模仿生物神经可塑性的新型自然启发式优化算法,在三个数据集上进行了测试,并与梯度下降优化进行了比较。
Apr, 2022
本文介绍了一种受人类学习模式启发的方法:懒惰学习,通过只在分错的样本上进行学习,可实现一些分类任务的更高准确度,并且不需要超参数调整。
提出了一个新型的元强化学习模型,MetODS,利用动态连接权重和突触可塑性来进行连续的自我反思修改,实现了在代理策略空间中高效和强大的控制规则的学习。
Feb, 2022
本文提出利用短期可塑性为脉冲神经网络提供与非脉冲神经网络不同的计算优势,并使用节约的局部突触可塑性模拟温度相关技术来解决网络计算困难性问题。这些网络在处理生成任务时表现出出色性能,在任务不平衡的情况下,它们甚至可以胜过传统算法。
Sep, 2017
本研究使用元学习发现网络如何利用反馈机制和本地、仿生学习规则,以进行在线信用分配,并超越了现有的基于梯度的算法在回归和分类任务方面的性能,特别是在持续学习方面表现优异,结果表明存在一类生物可行的学习机制,不仅匹配梯度下降,而且还克服了其局限性。
Jun, 2020
受生物神经元可塑性启发,我们提出了一种搜索方法,通过寻找突触特异的赫比学习规则,使网络能在智能体的生命周期内持续自组织其权重,从而实现在一些强化学习任务中取得成功,同时对多种感官模态处理方式具有适应性。
Jul, 2020