ACLMar, 2022
BERT 在分类语法角色时不考虑单词顺序… 除非它很重要
When classifying grammatical role, BERT doesn't care about word order... except when it matters
Isabel Papadimitriou, Richard Futrell, Kyle Mahowald
TL;DR通过探究自然语言处理模型中英语 BERT 和 GPT-2 语法角色的表示,发现其后期层次的单词聚类受到词序关系的影响,特别是在某些非典型语境下,词序知识对于正确的分类具有重要的作用,这突出了模型在非常规但至关重要的时刻如何使用上下文。