Feb, 2024

秩序中的秩序：结构化神经元的循环网络中发育和学习的相互作用

PDF
TL;DR通过应用局部、始终开启的可塑性规则，我们能够在由两个群体组成的递归网络中学习复杂序列，我们的模型具有资源高效性，仅需少量神经元即可学习复杂序列，我们通过鸟鸣学习的模拟中展示了这些特点，在该模拟中，我们的网络首先学习了一个长的非马尔可夫序列，尽管存在外部干扰，它们能够稳健地复现此序列。
behaviorneural networksrecurrent networksdendritic information storagebirdsing learning
发现论文，激发创造
  • 序列生成和记忆的递归神经网络模型

    本文提出 Partial In-Network Training（PINning）方法，基于随机网络架构和少量的连接修改，实现突触交互和外部输入的协作而不是前馈或非对称连接，高效地产生神经序列和工作记忆，此方法能够匹配细胞分辨率成像数据，并暗示神经序列可能从较大结构的神经网络中学习而来。

    Mar, 2016

  • 人工神经网络和真实大脑训练中的新兴计算

    该研究探讨了大脑皮层神经回路中突触可塑性、神经元之间的连接和电信号传递，指出如何通过训练循环神经网络学习新任务并改变环境适应能力，同时发现人工网络和真实大脑使用相似的计算策略。

    Dec, 2022

  • 脉冲神经元网络中的长短时记忆和学习 - to-learn

    研究了如何通过深度学习将适应性神经元包含在递归脉冲神经元网络（RSNNs）中，从而优化网络结构，实现知识迁移和在少数示例中进行学习、手段是 BPTT 算法。

    Mar, 2018

  • 具备复杂突触的持续强化学习

    本文研究了使用突触模型可以减轻人工神经网络中存在的 “灾难性遗忘” 现象，从而实现多时间尺度的持续学习并减少经验回放数据库在任务内的遗忘。

    Feb, 2018

  • 脑中序列的计算

    该研究针对机器学习和认知神经科学中的中心课题提出了一种形式化的神经活动模型，该模型可以通过神经元集合的创建和操作实现某些简单的认知操作，并具有较强的泛化、鲁棒性和快速性，还可以捕捉时间和空间序列，实现通用计算。

    Jun, 2023

  • 生物可信神经网络的研究：大脑启发机制在持续学习中的作用和交互

    通过生物学上的神经元网络组合中的多种互补机制，可以在人工神经网络中实现连续学习。

    Apr, 2023

  • 在具有隐藏神经元的循环网络中学习序列吸引子

    大脑针对处理时间序列信息，如何学习存储和检索序列记忆仍不清楚。本研究探讨了二元神经元回归网络如何学习序列吸引子以存储预定义的模式序列，并能够强大地检索它们。通过发展一种本地学习算法，证明了该算法能够使带有隐藏神经元的网络学习序列吸引子，且能够在合成和实际数据集上有效地存储和检索序列。希望本研究为理解大脑中的序列记忆和时间信息处理提供新的见解。

    Apr, 2024

  • 基于生物学启发的循环神经网络学习的反向传播时序算法替代方案

    通过实时与合适的自上而下学习信号合并本地可用信息，为循环神经网络提供了高效的学习算法，其中包括了神经形态芯片的在线训练，从而拓宽了大脑中的网络学习理解并在实验中得到了验证。

    Jan, 2019

  • 循环神经网络在序列学习中的关键评估

    本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

    May, 2015

  • 短期突触可塑性脉冲神经元形成更优秀的生成网络

    本文提出利用短期可塑性为脉冲神经网络提供与非脉冲神经网络不同的计算优势，并使用节约的局部突触可塑性模拟温度相关技术来解决网络计算困难性问题。这些网络在处理生成任务时表现出出色性能，在任务不平衡的情况下，它们甚至可以胜过传统算法。

    Sep, 2017