Sep, 2021
多任务学习中高效识别任务分组
Efficiently Identifying Task Groupings for Multi-Task Learning
Christopher Fifty, Ehsan Amid, Zhe Zhao, Tianhe Yu, Rohan Anil...
TL;DR本文提出了一种方法来选择哪些任务应该在多任务学习模型中共同训练,该方法通过训练所有任务并量化一个任务的梯度对其他任务损失的影响来确定任务分组,实验结果表明相较于在一起训练所有任务,该方法可以在 11.6 倍的速度下将测试损失降低 10%。