EMNLPMay, 2022

上下文限制使神经语言模型更接近人类

TL;DR本文研究了语言模型在认知建模和工程研究中的应用,提出了现代神经 LM 的局限性,其中与人类阅读过程相比,存在上下文访问能力的差异。限制 LM 上下文访问可以提高其模拟人类阅读行为的能力,同时将句法偏好纳入 LM 的上下文访问中也可以增强其认知合理性。