EMNLPNov, 2022
增加遮挡时,词序很重要
Word Order Matters when you Increase Masking
Karim Lasri, Alessandro Lenci, Thierry Poibeau
TL;DR本研究探讨了在 Transformer-based 神经语言模型中移除位置编码的影响,发现掩码语言建模任务中位置信息的重要性随着掩码数量的增加而增加,并且没有位置编码的模型不能完成该任务,这揭示了 Transformers 通过位置编码捕捉语言的顺序敏感方面的直接关系。