May, 2023
一种用可解释的上下文嵌入空间研究语法结构中语义概念的方法
A Method for Studying Semantic Construal in Grammatical Constructions with Interpretable Contextual Embedding Spaces
Gabriella Chronis, Kyle Mahowald, Katrin Erk
TL;DR本文使用大型语言模型研究语法结构中的语义构成，通过将上下文词向量投影到三个不同的解释型语义空间中，自动得出语法结构中词汇项的语义性质，并发现主语中的单词被解释为比同一单词在宾语位置更具有代理性， AANN 结构中的名词被解释为更具测量性。此方法探究了语法结构的分布式意义，抽象出了特定词汇。