本文提出了一种基于 Meta-learning 的多任务线性回归算法，该算法能够通过低维线性表示快速学习多个相关任务，同时将这些知识传递到新的未见过的任务中，并提供了信息论下限，证明了该算法的高效性。

Feb, 2020

本论文提出并提供了多种自然理论公式的有效算法，以解决在学习多个不同目标函数时，学习者可共享某些未知公共特征的问题，并且可以学习到捕捉这种共性的新的内部表示，以便更高效地学习和使用更少的数据。

Nov, 2014

本研究基于 PAC（可能近似正确）框架，通过使用通信复杂性，探索了不断学习的复杂性理论，并提出了一种基于乘性权重更新的算法，在允许学习任务进行对数次遍历时，其内存需求良好地缩放。

Apr, 2022

研究使用表征学习的 few-shot 学习，使用 $T$ 个源任务，通过学习表征来减少目标任务的样本复杂度，重点关注具有良好公共表征的情况，并提出使用表征学习的快速速率。

Feb, 2020

该论文引入了一种新的终身学习方案，其使用自编码器以保留以前任务的信息并控制新环境下的功能调整，从而显著减少了任务遗忘率。

Apr, 2017

通过简单的梯度下降学习算法，在二层 ReLU 神经网络中进行多任务学习，可证明在多任务学习中也发生了特征学习。

Jul, 2023

本文提出了一种在线的迁移学习方法，通过对任务内算法中底层的数据表示进行改进，实现跨任务信息转移，同时证明了该方法拥有良好的成本控制性质，并讨论了其在字典学习和有限预测器中的应用。

Oct, 2016

本研究旨在提出一种新的持续表示学习方法，使用领域选择和一致性松弛策略，对大量身份执行知识蒸馏，以提高持续学习模型的可扩展性和灵活性，并在生物识别中提供用于多步骤的大规模基准测试。研究表明，比起其他竞争者，本方法获得了更好的结果。

Jun, 2020

本文提出一种新的可扩展体系结构和训练算法解决 Deep Learning 在 lifelong learning 场景中面临的挑战，尤其是在训练时间和内存限制下存储经验的问题，并在性能评估中取得了显著提升。

Nov, 2017

讨论了一般从多个任务中学习数据表示的方法，并在多任务学习和学习到学习的两种情况下对此方法进行了理论上的证明。我们通过线性特征学习的特例对方法进行详细说明，并建立起多任务表示学习在独立任务学习上的理论优势的条件，特别是针对重要的半空间学习的例子，我们推导出了多任务表示学习在独立任务学习上的优势随样本数量、任务数量和固有数据维度的函数关系，其他潜在应用包括在再现核希尔伯特空间和多层深度网络中进行多任务特征学习。

May, 2015