Sep, 2020

自我监督元学习用于少样本自然语言分类任务

TL;DR本文提出了一种自监督的方法来生成大量的meta-learning任务分布,通过这种方法,将transformer模型的预训练与meta-learning相结合,证明了这种方法能够在NLP任务上实现更好的少样本泛化。