奖励调节 STDP 的突触可塑性神经元脉冲伪学习

Jun, 2023

奖励调节 STDP 的突触可塑性神经元脉冲伪学习

Meta-Learning in Spiking Neural Networks with Reward-Modulated STDP

Arsham Gholamzadeh Khoee, Alireza Javaheri, Saeed Reza Kheradpisheh, Mohammad Ganjtabesh

TL;DR提出了一个受海马体和前额叶皮质启发的生物学上可行的元学习模型，其使用尖峰神经网络和基于奖励的学习系统来实现在低数据条件下的快速学习并避免了灾难性遗忘，并且可以轻松地应用于脉冲神经形态学设备和在 few-shot 分类任务中展示了其与现有技术的竞争力。

Abstract

The human brain constantly learns and rapidly adapts to new situations by integrating acquired knowledge and experiences into memory. Developing this capability in machine learning models is considered an important goal of AI research since deep neural networks perform poorly when there is limited data or when they need to adapt quickly to new unseen tasks.

meta-learning models spiking neural networks reward-based learning system few-shot classification tasks neuromorphic hardware

发现论文，激发创造

具有自修改网络的元强化学习

提出了一个新型的元强化学习模型，MetODS，利用动态连接权重和突触可塑性来进行连续的自我反思修改，实现了在代理策略空间中高效和强大的控制规则的学习。

Feb, 2022

融入神经形态计算的大脑启示全局 - 局部学习

本文提出了一种神经形态混合学习模型，该模型实现了元学习局部可塑性和多尺度协同学习的降低维度的脉冲神经网络。在多个任务中展示了该模型的性能，包括在神经形态视觉传感器中的少样本学习、连续学习和容错学习。该模型表现出比单一学习方法显著更高的性能，并展示了在嵌入式应用方面的应用优势。

Jun, 2020

反馈与局部可塑性学习的学习

本研究使用元学习发现网络如何利用反馈机制和本地、仿生学习规则，以进行在线信用分配，并超越了现有的基于梯度的算法在回归和分类任务方面的性能，特别是在持续学习方面表现优异，结果表明存在一类生物可行的学习机制，不仅匹配梯度下降，而且还克服了其局限性。

Jun, 2020

基于 STDP 的突触可塑性神经网络有监督学习算法

本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

Mar, 2022

自然语言的元预测学习模型

基于自注意力机制的大型语言模型在语言处理和自然语言本身中取得了惊人的成绩，并且在不同性质的各种任务中也取得了成绩。本文在预测编码框架内提出了一个平均场学习模型，成功地验证了其在分类手写数字和玩具以及真实语言语料库中的有效性。因此，我们的模型为研究语言处理和意想不到的普遍智能的物理和生物对应关系提供了一个起点。

Sep, 2023

基于大脑启发的图形脉冲神经网络用于常识知识表示和推理

本文研究了神经元人口编码和峰值时间相关可塑性机制如何整合进学习脉冲神经网络中，以及如何通过奖励调节峰值时间相关可塑性机制实现相关推理任务，并构造巨型知识图的脉冲神经网络表征。

Jul, 2022

一种基于对称 STDP 规则的脉冲神经网络生物学可行的监督学习方法

本文提出了一种基于神经科学中对称性脉冲定时相关塑性规则的生物可行的 SNN 模型，该模型结合生物可行的突触缩放和动态阈值的内在可塑性来实现监督学习，并在标准识别任务中实现了良好的性能，其学习规则基于局部脉冲事件，因此可以轻松应用于神经形态硬件，有助于理解生物神经系统内部的监督学习信息处理机制。

Dec, 2018

基于元学习的深度在线学习：模型强化学习中的持续自适应

本文旨在开发一种方法，从传入的数据流中使用深度神经网络模型进行连续的在线学习，使用随机梯度下降算法来更新模型参数，并使用先验的中餐馆过程的期望最大化算法来开发和维护一种混合模型来处理非平稳任务分布。我们将元学习应用于基于模型的强化学习，以适应预测模型关键控制任务中的连续快速自适应。

Dec, 2018

脉冲神经网络实现生物学上可行的序列学习

提出了一种新的持续时间模型 ——McCulloch-Pitts 网络 (MPN)，用于序列学习，在棘突神经网络中，可以利用突触之间的不对称连接进行训练，能够稳健地记忆多个时空模式、二进制图片序列和实验神经脉冲数据的产生模型，并具有生物启发式的设计理念。

Nov, 2019

元学习认知模型

本研究综合了先前的工作，旨在建立一个关于 cognition 的 meta-learned 模型的研究计划，证明 meta-learning 可以用于构建 Bayes-optimal learning algorithms，实现对 cognitive theories 的更加广泛的范围的建模

Apr, 2023