Aug, 2022
SPOT: 知识增强语言表示,用于信息提取
Representing Knowledge by Spans: A Knowledge-Enhanced Model for
Information Extraction
TL;DR我们提出了一种新的预训练模型,利用基于维基百科的知识图谱实现了在实体和关系上的双重表示,以及利用跨度模块进行有效编码,相较于现有模型使用更少的参数。实验结果表明,相比RoBERTa模型,我们模型在信息抽取任务上表现更好,尤其在监督学习任务中达到了很高的竞争水平。