通过研究语言模型在下一个单词预测任务中的表现与人类行为模式的比较，发现人类与 GPT-2 语言模型在文本展现初期表现强相关，随着记忆（或背景学习）的作用逐渐发挥，二者的表现迅速分歧，研究发现这种分歧的原因是特定的中间层注意力头部，为此通过在这些注意力头部中添加幂律最近偏倚，构建了一个更接近人类行为的模型，希望此案例能够推动将语言模型更加贴近人类行为的未来研究。

Oct, 2023

本文研究了语言模型在理解阅读中的应用，发现概率语言模型在得知前文后更有深入的语法和语义解释，从多个层面上与阅读时间都有非常明显的关联。

Feb, 2022

通过对二十多种不同的计算模型测试发现，尽管这些模型可能包含不同的结构、方法和数据集，但其前向单词期望和人类阅读行为之间的关系是很直接的，其中深度 Transformer 模型和 n-gram 模型在眼动数据方面表现优异，而在句法知识和预测能力之间不存在重大关系。

Jun, 2020

该研究旨在利用自然语言处理技术，设计并提供一种基于逻辑一致性的财务文本评估工具 ——FinTrust，分析现有的 NLP 模型对于历史市场信息的预测一致性较差，表明目前的基于文本的方式无法可靠地进行金融预测。

May, 2023

研究发现，与人类翻译相比，神经机器翻译包含了更多与频率较高的词强相关的套话序列，但与频率较低的词弱相关的套话序列较少。本文尝试使用议会语料库复制这项研究，结果显示不同的神经机器系统之间存在差异，其中 Google 翻译所包含的强相关二元组较少，而 Deepl 和 Microsoft 的翻译结果则较为相似。

Jun, 2022

定量分析比较人类写作的英文新闻与基于 4 个 LLMa 家族的大型语言模型 (LLM) 输出的差异，结果显示了人类文本与 AI 生成文本在多个可测量的语言维度上的差异，包括形态、句法、心理测量和社会语言方面，并揭示了 LLM 生成文本中存在更多的数字、符号和助动词，以及更多的代词，人类文本中存在的性别偏见也被 LLMs 表达出来。

Aug, 2023

预测未来的文本数据，结合时间历史背景，基于概率模型建立了未来语言模型。

Apr, 2024

通过对现代神经结构的分析，提出一种新的语言建模表现度量并与人类主观认知语言处理结果的相关性来重新评估 Goodkind 和 Bicknell（2018 年）的观点，证明了一种基于困惑度的语言模型能否对阅读时间进行建模的线性假设不适用于 LSTM 网络，变形器和预训练模型。

Sep, 2020

本文探讨了语言因素与预测技能之间的联系，并基于语言模型对预测技能进行了准确预测。

Jun, 2020

通过测试 ChatGPT 在语言记忆任务中对人类表现的预测能力，研究发现 ChatGPT 和人类的表现有惊人的一致性，尽管它们的内部机制可能存在显著差异，这一发现强调了生成型人工智能模型在准确预测人类表现方面的潜力。

Mar, 2024