Apr, 2022
RuBioRoBERTa:用于俄语生物医学文本挖掘的预训练生物医学语言模型
RuBioRoBERTa: a pre-trained biomedical language model for Russian language biomedical text mining
Alexander Yalunin, Alexander Nesterov, Dmitriy Umerenkov
TL;DR本文介绍了基于 BERT 模型的俄语生物医学文本挖掘模型(RuBioBERT,RuBioRoBERTa)。这些模型在俄语医学领域的文本语料库上进行预训练,并在俄罗斯医学语言理解基准(RuMedBench)上展现了最新的成果,包括文本分类、问答、自然语言推断和命名实体识别。