ACLJun, 2023

RadLing:面向高效放射学报告理解

TL;DR本文介绍了 RadLing 这一预训练模型,它使用了 500K 个放射学报告作为训练集,并针对放射学领域进行了微调,使其在细化调整任务中取得了与最先进结果相当的性能。本文的主要贡献在于知识感知遮蔽,这是一种通过遮蔽单词来注入知识的分类知识支持的预训练任务。此外,本文还介绍了一种知识库辅助的词汇扩展方法,以适应放射学领域的通用分词词汇。