多任务表示学习的好处

May, 2015

The Benefit of Multitask Representation Learning

Andreas Maurer, Massimiliano Pontil, Bernardino Romera-Paredes

TL;DR讨论了一般从多个任务中学习数据表示的方法，并在多任务学习和学习到学习的两种情况下对此方法进行了理论上的证明。我们通过线性特征学习的特例对方法进行详细说明，并建立起多任务表示学习在独立任务学习上的理论优势的条件，特别是针对重要的半空间学习的例子，我们推导出了多任务表示学习在独立任务学习上的优势随样本数量、任务数量和固有数据维度的函数关系，其他潜在应用包括在再现核希尔伯特空间和多层深度网络中进行多任务特征学习。

Abstract

We discuss a general method to learn data representations from multiple tasks. We provide a justification for this method in both settings of multitask learning and learning-to-learn. The method is illustrated in detail in the special case of linear feature learning. Conditions on the

multitask learning linear feature learning half-space learning representation learning data dimensionality

发现论文，激发创造

多任务表示学习在强化学习中的证明收益

本文首次从理论上研究了使用多任务表示学习来提高勘探性无奖励多任务强化学习中多个任务的样本效率，并证明了它比单独学习每个任务更加样本高效。此外，我们还研究了下游强化学习，并表明与直接学习低秩模型有所不同的是，从上游学习的表示更有利于下游强化学习。

Jun, 2022

多任务深度强化学习中的知识共享

我们研究了在多任务强化学习中共享表示的益处，以实现深度神经网络的有效使用。我们利用从不同任务中学习、分享共同特性的假设，有助于推广知识，从而比学习单个任务更有效地进行特征提取。通过在广泛使用的强化学习基准上进行实证评估，我们提出了三种强化学习算法的多任务扩展，并证明了在样本效率和性能方面相较于单任务具有显著改进。

Jan, 2024

线性 MDP 中多任务表示学习的能力

本文研究了多任务表示学习在线性马尔可夫决策过程下的样本复杂度问题，并提出了 “最少激活特征稀缺” 指标，证明了多任务表示学习可以降低样本复杂度的理论依据，并发现自适应采样技术对于保证高样本效率至关重要。

Jun, 2021

基于上下文表示的多任务强化学习

提出一种多任务学习的方法，通过元数据构建可组合且可解释的表示，从而改进多任务学习性能，并在一个包含 50 个不同机器人操作任务的具有挑战性的多任务基准 Meta-World 上实现了最先进的结果。

Feb, 2021

多任务模仿学习中表示转移的统计保证

通过多任务模仿学习的表征转移，可以比从零开始学习新任务更加高效地利用样本。本文提供了一个统计保证，表明在使用足够多样的源任务训练表征时，我们确实可以提高目标任务的样本利用效率。我们的理论结果可以轻松扩展到基于现实假设的常用神经网络结构。通过符合我们理论结果的实证分析，我们在四个模拟环境中得出结论：特别是更多地利用源任务的数据可以提高学习新任务的样本利用效率。

Nov, 2023

每个任务非常少的样本的元学习

在这项研究中，我们研究了元学习和多任务学习的框架，探讨了在小样本情况下，通过少量任务和样本，能否学习到有效的共享表示，并利用该表示解决二分类问题。

Dec, 2023

基于双层 ReLU 神经网络的可证明多任务表示学习

通过简单的梯度下降学习算法，在二层 ReLU 神经网络中进行多任务学习，可证明在多任务学习中也发生了特征学习。

Jul, 2023

深度多任务表示学习：张量分解方法

本文提出了一种新的深度多任务表示学习框架，通过将矩阵分解技术泛化为张量分解，实现了深度网络中的端到端知识共享的自动学习，而不需要用户定义的多任务共享策略。实验证明了我们的深度多任务表示学习方法在提高准确性和减少设计选择方面的有效性。

May, 2016

活跃的多任务表示学习

本文提出了一种基于主动学习技术的算法，用于估计每个源任务与目标任务的相关性并进行采样，以便更好地利用大数据源任务的力量并克服目标任务样本的稀缺性，并证明了在线性表示类上使用我们的算法可以在相同错误率下节省源任务采样复杂度。同时，作者通过实验结果显示了该方法在真实的计算机视觉数据集上的有效性。

Feb, 2022

强化学习的离线多任务表示学习

我们研究了强化学习中的离线多任务表示学习，理论上研究了离线多任务低秩强化学习，并提出了一种名为 MORL 的用于离线多任务表示学习的新算法。此外，我们还研究了奖励缺失、离线和在线情景下的下游强化学习，在其中引入了一个与上游离线任务共享相同表示的新任务。我们的理论结果证明了使用上游离线任务学到的表示而不是直接学习低秩模型的表示的好处。

Mar, 2024