BriefGPT.xyz
Jun, 2023
基于标签生成的类增量学习
Class-Incremental Learning based on Label Generation
HTML
PDF
Yijia Shao, Yiduo Guo, Dongyan Zhao, Bing Liu
TL;DR
本文提出了一种新的类增量学习方法(VAG),通过将类增量学习视为一个连续标签生成问题,利用预先训练模型的可推广表达来减少灾难性遗忘,并利用词汇表的稀疏性来聚焦生成,同时通过使用标签语义来创建伪重放样本。实验结果表明,VAG方法的表现优于基线方法。
Abstract
Despite the great success of
pre-trained language models
, it is still a challenge to use these models for
continual learning
, especially for the
→