MMDec, 2021
JABER 和 SABER:初级和高级阿拉伯 BERT
JABER and SABER: Junior and Senior Arabic BERt
Abbas Ghaddar, Yimeng Wu, Ahmad Rashid, Khalil Bibi, Mehdi Rezagholizadeh...
TL;DR本文介绍了 JABER 和 SABER 代码库,提供了分别面向初学者和高阶研究者的两种预训练语言模型。我们的实验证明,在 ARABIC NLU 任务中,与预训练的 ARABIC BERT 模型相比,基于 JABER 和 SABER 的语言特定预训练模型能够实现最先进的性能。