Jun, 2022
语言模型能否捕获图形语义？从图形到语言模型和相反
Can Language Models Capture Graph Semantics? From Graphs to Language
Model and Vice-Versa
TL;DR本文研究分析了如何使用深度学习模型压缩知识图谱，并在大部分语义保持不变的情况下将其解压回原始状态。但是本文发现，Transformer模型无法完全表达输入的知识图谱，这是因为知识图谱中的定向关系和类型信息与Transformer的注意力矩阵的全连接结构存在差异导致的。