Apr, 2022

主动学习帮助预训练模型学习预期任务

TL;DR本文探讨使用预训练模型进行主动学习任务中的歧义消除,发现预训练模型使用基于不确定性的主动学习时所需标注数量降低至非预训练模型的五分之一,并且可以通过在预训练的表示空间中选择具有消除歧义的特征属性的数据样本来获得这种性能提升。