该研究通过在一些预测和赌博任务上的实验，发现元学习可以作为近似数值逼近贝叶斯最优智能体的一般技术。实验结果表明，memory-based meta-learning 可以使一些不可解的任务变得可解。

Oct, 2020

在这篇论文中，我们回顾了基于记忆的元学习作为构建在目标类中适应任何任务的节约样本策略的工具，并通过基本算法模板提供构建近乎最优预测器和强化学习器的概念基础。此外，我们将记忆性元学习重新放入贝叶斯框架内，展示元学习策略接近最优，因为它们分摊了贝叶斯滤波之后的数据，其中适应在内存动态中实现为足够统计的状态机。基本上，基于记忆的元学习将概率序列推断的困难问题转化为回归问题。

May, 2019

本文提出一种新的贝叶斯模型无关元学习方法，结合可伸缩的基于梯度的元学习和非参数变分推断，通过一个有原则的概率框架去学习复杂的不确定性结构，并且在 meta-update 时使用鲁棒的贝叶斯 meta-update 机制防止过拟合。此方法在各种任务中展现了准确性和鲁棒性。

Jun, 2018

本文提出了一个框架，用于解决神经网络在数据分布不稳定时的忘记问题，该框架结合了元学习和持续学习技术的优点，避免了对任务边界的先验知识，并重点关注了如何更快地恢复性能。在监督学习情境下，我们展示了该框架的应用和效果。

Jun, 2019

本文提出了一种半监督元学习方法（SETS）来解决不断演化的任务分布和大量的未标记数据存在时的元学习问题，并通过引入相互信息正则化来稳健地利用未标记外部分布数据以及采用最优传输正则化来在特征空间记住已学习的知识。在大规模非稳态半监督任务分布数据集上的测试中，实验证明了本文方法相对于相关强基线具有更好的鲁棒性。

Sep, 2022

利用 LSTM 神经网络实现元学习，并能将其与手工设计的算法进行对比，在实验中，我们学习了针对非线性可分数据集的一个具有两个隐藏层的 MLP 的学习算法，并且该算法能够成功地更新两个隐藏层的参数并且在类似的数据集上具有泛化性能。

Oct, 2016

在当前深度学习时代，为了在训练神经网络时使用随机梯度下降处理非平稳流数据时减轻遗忘现象，我们采用元学习范式来结合神经网络的强表示能力与简单统计模型对遗忘现象的抵抗能力，在我们的新颖元持续学习框架中，持续学习仅在统计模型中进行，而神经网络在原始数据和统计模型之间进行元学习，由于神经网络在持续学习过程中保持不变，它们免受遗忘现象的影响。该方法不仅实现了显著提高的性能，而且具有出色的可伸缩性，由于我们的方法与领域和模型无关，因此可以应用于各种问题，并与现有模型架构轻松集成。

May, 2024

从非参数贝叶斯模型中提取归纳偏好并将其转移到人工神经网络，使得神经电路能够在开放类集合上成功进行顺序推理，实现了与基于粒子滤波器方法相当甚至更好的性能，并且速度更快、使用更简单。

Nov, 2023

本文研究神经网络存在的遗忘问题以及连续学习的解决方案，通过重放机制和元学习的结合，发现引入元学习可以解决传统重放机制在每个任务分配的内存有限时容易导致失效的问题，并在保证学习效率和准确性方面具有优势。

Mar, 2021

本文中，我们提出了用于处理具有高阶非平稳性的空时动态领域的 Memory In Memory（MIM）网络及其循环块，并在合成和实际数据集上的四个时空预测任务中取得了最先进的结果。

Nov, 2018