本文从语法分析的角度出发，通过探索不同的句法分析方法和语法特征对大脑语言网络的影响，以及与语义信息的关系，研究了其对大脑活动的预测能力，发现不同的语法分析方法在大脑不同区域的编码效果不同，而语法信息和语义信息的结合能够更好地预测大脑活动。

Feb, 2023

阅读临时模糊句子时，错误解释有时会一直存在，甚至超过消除模糊的点。本研究通过使用四种大型语言模型（LLMs）——GPT-2、LLaMA-2、Flan-T5 和 RoBERTa，以及在线和离线的测量方法，调查了对园路理解句子的处理和错误解释的命运。研究结果表明，当有额外的语法信息可以引导处理时，人类和 LLMs 在处理园路理解句子方面存在良好的一致性。

May, 2024

通过在线实验，比较人类和神经语言模型在语法处理中的情况；发现当神经语言模型遇到语法问题时，会在显著性方面低估人类反应时间的不同，这对于现代语言模型是否接近人类对语法违规的敏感性提出了质疑。

Jun, 2021

研究人类阅读园路效应时，提出的 surprisal 理论假设阅读者的速度减慢是由于句子中每个单词的不可预测性。但最近的研究表明，该假设低估了句法预测的影响。作者提出了计算句法预测能力的方法，并发现将其与词汇预测能力区分开来可以更准确地估计园路效应的影响。然而，即使这样，surprisal 仍然远远低估了人类阅读园路效应的影响。

Oct, 2022

该研究使用信息限制的自然语言处理模型研究了神经语言学中与句法和语义处理有关的脑区及其空间组织，并发现左右半球在语义和句法处理方面存在差异且在上下文范围和集成窗口方面敏感性不同。

Feb, 2023

该研究论文探讨了基于现代架构的全面增量依存解析是否能够具备竞争力，并建立了将严格的从左到右神经编码器与全面增量序列标注和基于转换的解码器相结合的解析器。结果表明，基于现代架构的全面增量解析远远落后于双向解析，并注意到语言学上合理解析的挑战。

Sep, 2023

通过对 GPT-2 的激活进行统计的方法，将语言模型的高维度激活分解成四个组合类别：词汇、组合、句法和语义表示，并发现组合表示比词汇表示更广泛地招募了大脑皮层网络，并且句法和语义共享一个分布式神经基础。该研究提出了一个多功能的框架来分离神经活动中的语言建构分布式表示。

Mar, 2021

我们开发了一种新颖的双向注意力模型，用于依存句法分析，其学习从正向和反向分析方向中的头部单词预测达成一致的方法。通过连续查询存储连续头部单词嵌入的存储器组件，为每个方向的分析过程制定解析程序。我们针对来自 CoNLL 2006 共享任务的英文、中文和其他 12 种语言进行了实验，并表明所提出的模型在 6 种语言的无标记附着得分上达到了最先进的水平。

Aug, 2016

本文提出一种新的 O (n^3) 依赖语法分析算法，并开发了三种不同的随机化方式。我们提出了词汇亲和模型、意义标注模型和生成模型。通过在训练文本上评估三种模型的分析性能并给出了初步的实证结果，其中生成模型在分析性能上表现显著优于其他模型，并且在词性标注方面表现同样出色。

Jun, 1997

本研究提出了一种新的基于神经网络的两种表征形式（span 和 dependency）的句法和语义联合模型，该模型有效地整合了句法信息，最大化优化联合目标，试验结果表明语义和句法可以相互促进，以全新的表现水平取得了 Propbank 基准测试集上的最好成绩。

Aug, 2019