Jul, 2024

神经仿真元可塑性用于自适应持续学习

TL;DR我们提出了一种受人类工作记忆启发的元可塑性模型,在没有任何预处理或后处理的情况下,使深度神经网络 (DNN) 在连续学习中实现了避免灾难性遗忘。该模型通过实施不同灵活程度的突触连接,并随机混合它们以训练连接具有不同灵活程度的神经元,实现了成功学习连续信息流的能力。该模型在记忆容量和性能之间取得了平衡,不需要额外的训练或结构修改,并动态分配内存资源以保留旧信息和新信息。此外,该模型通过选择性地过滤错误的记忆和利用赫布重复效应来增强重要数据的保留,展示了对数据中毒攻击的强大抵抗能力。