EMNLPOct, 2023
给我事实!关于预训练语言模型的事实知识探测调查
Give Me the Facts! A Survey on Factual Knowledge Probing in Pre-trained Language Models
Paul Youssef, Osman Alperen Koraş, Meijie Li, Jörg Schlötterer, Christin Seifert
TL;DR对预训练语言模型进行事实知识探测的方法和数据集进行了调研,并提出了一种基于输入、输出和被探测模型适应性的事实探测方法分类方案,综合分析了语言模型中的知识保留和提示优化问题,讨论了采用语言模型作为知识库的障碍和未来研究方向。