Feb, 2022
预训练语言模型在知识密集型自然语言处理中的研究调查
A Survey of Knowledge-Intensive NLP with Pre-Trained Language Models
Da Yin, Li Dong, Hao Cheng, Xiaodong Liu, Kai-Wei Chang...
TL;DR本文介绍了基于预训练语言模型的知识增强模型(PLMKEs)的当前进展,并通过分析三个重要组成部分:知识来源,知识密集型 NLP 任务和知识融合方法来介绍其挑战和未来方向。