探索构式的结构:一个计算语言学的 CxG 的分析
深度学习和自然语言处理在构造语法研究中产生了强大的模型,通过训练填空问题,显示了对丰富的语言信息和结构化知识的访问,本文旨在探索计算方法和构造语法研究之间的协同关系,并提供了深度学习模型的综合概述,以促进这两个领域的研究者之间的合作。
Aug, 2023
本文介绍了一种使用构造语法概念来丰富语言表示的方法,该方法由一种基于使用的构造语法框架支持,通过提取具有辨别性的构造,然后利用关系超图注意网络获取构造信息的表示来增强语言表示,实验结果表明该模型在各种自然语言理解任务方面具有明显优势。
Jun, 2023
本研究旨在探究 BERT 模型是否有能力获取句法结构和语言构式方面的信息,并证明 BERT 模型可以获得大量的句法信息,这也为深度学习模型理解自然语言处理提供了新的思路。
Nov, 2020
本文基于预训练语言模型研究了构式语法(CxG)与句法语义知识的兼容性,并探讨了预先训练的语言模型在英语比较关联结构(CC)的分类和理解中的表现,结果显示预训练语言模型的类人表现与语言学知识之间还存在显著差距。
Oct, 2022
通过使用依存解析和 GPT-3.5,我们以显著降低的注释成本且能标注稀有现象的规模,开展了一系列针对语言模型 (CxG) 的实验。结果显示所有模型在理解 CMC 中增加的运动成分方面都存在困难。
Mar, 2024
通过在 UD 注释上加入一个 'UCxn' 注释层并且在典型性知识的指导下,我们将构建类型说法可以跨语言进行比较的 UD 注释,同时为未来的 UD 树库提供了建设的基础。
Mar, 2024
本文使用大型语言模型研究语法结构中的语义构成,通过将上下文词向量投影到三个不同的解释型语义空间中,自动得出语法结构中词汇项的语义性质,并发现主语中的单词被解释为比同一单词在宾语位置更具有代理性, AANN 结构中的名词被解释为更具测量性。此方法探究了语法结构的分布式意义,抽象出了特定词汇。
May, 2023
通过使用组合范畴语法(CCG)作为语法模型,研究人员发现可以更好地理解自然环境中语言理解的行为和神经相关性。使用 fMRI 收集参与者听故事期间的神经信号,研究发现 CCG 在解释神经信号方面的有效性优于上下文无关文法,并可以从可选附加语方面解释。
Oct, 2022