Jun, 2022
自然语言生成的多任务监督预训练 (MVP)
MVP: Multi-task Supervised Pre-training for Natural Language Generation
Tianyi Tang, Junyi Li, Wayne Xin Zhao, Ji-Rong Wen
TL;DR提出一种基于 supervised pre-training 的自然语言生成模型 MVP,通过大规模语料库 MVPCorpus 在文本 - 文本格式下进行训练,并针对每种任务预训练特定的 soft prompts。实验证明 MVP 在多个自然语言生成任务中表现出色。