Oct, 2023
基于结构的提示增强图神经网络
Enhancing Graph Neural Networks with Structure-Based Prompt
TL;DR图神经网络(GNN)在学习图数据的语义方面具有很强的能力。最近，一种名为“预训练、提示”的新范式在利用较少监督数据将GNNs适应各种任务方面取得了有希望的结果。成功的这种范式可以归因于预训练和面向任务的提示调整之间更一致的目标，其中预训练知识可以有效地转移到下游任务。然而，现有研究中一个被忽视的问题是，在预训练阶段利用图的结构信息来学习节点表示，而在提示调整阶段却被忽略了。为了弥合这一差距，我们提出了一种新颖的基于结构的GNN提示方法，即SAP，它在预训练和提示调整阶段都一致地利用了结构信息。具体来说，SAP使用双视图对比学习来对齐节点属性和图结构的潜在语义空间，并在提示的图中加入结构信息以引发更多预训练知识。我们在节点分类和图分类任务上进行了大量实验证明了SAP的有效性。此外，我们还表明SAP可以在同质和异质图上的更具挑战性的小样本场景中实现更好的性能。