Dec, 2019
连续学习的正则化不足
Regularization Shortcomings for Continual Learning
Timothée Lesort, Andrei Stoian, David Filliat
TL;DR本文研究了 Continual Learning 中基于正则化的方法,通过理论推理和实验说明了这些方法在 class-incremental 场景下不能有效学习区分不同任务的类别,在多任务强化学习或用于 Continual Learning 的预训练模型中也存在重要后果。作者认为理解正则化策略的缺陷将有助于更有效地利用它们。