BriefGPT.xyz
May, 2021
文本生成的预训练语言模型:综述
Pretrained Language Models for Text Generation: A Survey
HTML
PDF
Junyi Li, Tianyi Tang, Wayne Xin Zhao, Ji-Rong Wen
TL;DR
本文综述了预训练语言模型在文本生成方面的主要进展,包括模型结构、输入数据的适配以及重要的微调策略。对于文本生成研究者而言,该综述提供了相关研究的综合和指引。
Abstract
text generation
has become one of the most important yet challenging tasks in
natural language processing
(NLP). The resurgence of
deep learning<
→