ACLMar, 2022

自适应焦点损失和知识蒸馏的文档级关系抽取

TL;DR本文提出了一个半监督框架,包含三个新组件,针对文档级关系抽取任务进行优化,通过轴向注意力模块学习实体对之间的相互依赖关系、自适应 focal loss 解决 DocRE 的类别不平衡问题,以及使用知识蒸馏方法克服人工标注数据与远程监督数据之间的差异。在两个 DocRE 数据集上的实验证明我们的模型表现超过了强基线模型,并且在 DocRED 排行榜上的 F1 分数和 Ign_F1 分数分别增加了 1.36 和 1.46 分。