EMNLPApr, 2021
探索 BERT Token 表达在句子探测结果中的作用
Exploring the Role of BERT Token Representations to Explain Sentence Probing Results
Hosein Mohebbi, Ali Modarressi, Mohammad Taher Pilehvar
TL;DR本文从 BERT 的表示空间出发,通过一系列探针任务和属性方法探究模型的语言学知识表达方式,发现 BERT 倾向于对语法和语义异常进行编码,并能够明显地区分语法数和时态子空间。