ICLRAug, 2023
西班牙预训练 BERT 模型与评估数据
Spanish Pre-trained BERT Model and Evaluation Data
José Cañete, Gabriel Chaperon, Rodrigo Fuentes, Jou-Hui Ho, Hojin Kang...
TL;DR该研究提出了一种基于 BERT 的专门针对西班牙语数据进行预训练的语言模型,并收集了几个专门针对西班牙语的任务,通过对预训练模型进行微调,在大多数任务上取得了比其他基于 BERT 的多语种预训练模型更好的结果,并在其中一些任务上取得了新的最优成果。