BriefGPT.xyz
Ask
alpha
关键词
linear geometry
搜索结果 - 1
上下文化词表示的低维线性几何
本文研究了 ELMO 和 BERT 中的单词表示的线性几何,发现低维子空间编码了各种语言特征,包括结构化依赖关系,子空间之间存在着层次关系,可以用于对 BERT 的输出分布进行细粒度的操作。
PDF
3 years ago
Prev
Next