有条件偏移神经元的快速适应

ICMLDec, 2017

Rapid Adaptation with Conditionally Shifted Neurons

Tsendsuren Munkhdalai, Xingdi Yuan, Soroush Mehri, Adam Trischler

TL;DR描述了一种人工神经网络能够学习快速适应新任务的机制，称为条件移位神经元，并将其应用在元学习中以实现机器学习的某些灵活性，从任务经验收集的特定位移修改神经元的激活值。在视觉和语言领域的元学习基准测试中，增强了条件移位神经元的模型实现了最先进的结果。

Abstract

We describe a mechanism by which artificial neural networks can learn rapid adaptation - the ability to adapt on the fly, with little data, to new tasks - that we call conditionally shifted neurons. We apply this

artificial neural networks rapid adaptation conditionally shifted neurons metalearning state-of-the-art results

发现论文，激发创造

基于记忆的参数适应

通过存储案例，使用基于上下文的查找直接修改神经网络的权重，以 Memory-based Parameter Adaptation 为核心的方法，可以在监督任务中有效地改善深度神经网络的性能和训练速度。

Feb, 2018

快速网络调整：利用测试时反馈学习适应神经网络

提出了一种适应神经网络在测试时分布发生变化的方法，通过闭环系统和测试时反馈信号来在实时中进行网络的适应，该方法使用基于学习的函数来实现很好的效果，使适应比基准方法更加灵活和快捷。

Sep, 2023

需要就是一切：稳态神经网络适应概念漂移

介绍一种具有自我调节能力的人工神经网络，利用其对内部状态的自我监控和调节来提高其在概念转移和高变化环境下的适应性。

May, 2022

奖励调节 STDP 的突触可塑性神经元脉冲伪学习

提出了一个受海马体和前额叶皮质启发的生物学上可行的元学习模型，其使用尖峰神经网络和基于奖励的学习系统来实现在低数据条件下的快速学习并避免了灾难性遗忘，并且可以轻松地应用于脉冲神经形态学设备和在 few-shot 分类任务中展示了其与现有技术的竞争力。

Jun, 2023

使用条件神经自适应过程进行快速灵活的多任务分类

本文提出了一种基于条件神经过程的多任务分类方法，该方法可以在初步的多任务训练阶段后自适应地适应测试时遇到的新任务，并与元学习和少样本学习文献建立联系。实验结果表明，该方法在具有挑战性的 Meta-Dataset 基准测试中取得了最先进的效果，表明了高质量的迁移学习能力；而且该方法具有很好的稳健性，避免了低数据情况下的过拟合和高数据情况下的欠拟合，是一个计算效率高的测试时间方法，并且可以暂时不用迁移学习也可以在连续学习和主动学习方面取得超越现有方法的效果。

Jun, 2019

元学习神经记忆

本文提出了一种基于外部内存机制及元学习的可快速调整及变更参数的深度神经网络，该模型不仅适用于监督性问题，还能在强化学习等多种学习问题中取得较好的表现。

Jul, 2019

具有自修改网络的元强化学习

提出了一个新型的元强化学习模型，MetODS，利用动态连接权重和突触可塑性来进行连续的自我反思修改，实现了在代理策略空间中高效和强大的控制规则的学习。

Feb, 2022

快速而灵活：训练神经网络通过少量数据学习遵循指令

通过两阶段训练过程，我们的神经网络系统自动获得归纳偏差来学习遵循人类指令的通用结构，并能够适应新话语中的新单词。

Sep, 2018

超网络的持续学习

本文提出了一种基于任务条件化超网络的新方法，使得连续学习的模型可以通过简单的关键特征记住特定任务的权重实现在记忆中的持久化，并在标准连续学习基准测试上达到了最先进的性能，同时揭示了该方法在迁移学习上的应用前景。

Jun, 2019

仿生学的神经元适应提高神经网络的学习能力

通过多层感知器和卷积神经网络，研究对比黑比学习和平衡传播算法及其加宽自适应能力的表现及其仿生学上的意义。

Apr, 2022