Sep, 2023

图上的逐层训练自监督学习

TL;DR图神经网络 (GNN) 的端对端训练在大型图上存在多个存储和计算上的挑战,通过自监督的方式,我们提出了逐层规则化图信息最大化算法以逐层训练 GNN,通过解耦特征传播和特征转换来学习节点表示,从而得出基于对未来输入预测的损失函数。我们在归纳大型图上评估了算法,并展示了类似于其他端对端方法的性能,以及大幅提高的效率,使得能够在一个设备上训练更复杂的模型。我们还展示了我们的算法避免了表示过度平滑的问题,这是深度 GNN 的另一个常见挑战。