Feb, 2024
BERT 如何讲莎士比亚英语?评估上下文语言模型中的历史偏见
How BERT Speaks Shakespearean English? Evaluating Historical Bias in Contextual Language Models
Miriam Cuscito, Alfio Ferrara, Martin Ruskov
TL;DR通过利用 BERT 的历史偏见分析方法,我们测量其对早期现代英语和现代英语的适应性,并使用 60 个掩模句子(20 个早期现代英语特定,20 个现代英语特定和 20 个通用语)和三种不同模型(BERT Base,MacBERTh 和 English HLM)进行初步实验,并根据两种语言变体之间的五分制量表对模型预测进行评分,并得出每个模型对早期现代英语和现代英语的适应性的加权得分。