Nov, 2023

从耦合振子到图神经网络: 通过库拉莫托模型方法减少过度平滑

TL;DR我们提出了Kuramoto Graph Neural Network(KuramotoGNN),一种新颖的连续深度图神经网络(GNN),它采用Kuramoto模型来减轻过度平滑现象,在GNN中,随着层数的增加,节点特征变得无法区分。Kuramoto模型捕捉了非线性耦合振荡器的同步行为。通过耦合振荡器的视角,我们首先展示了Kuramoto模型与基本GNN之间的联系,然后证明了GNN中的过度平滑现象可以解释为Kuramoto模型中的相位同步。KuramotoGNN通过频率同步来替代相位同步,防止节点特征收敛到彼此,同时允许系统达到稳定的同步状态。我们在各种图深度学习基准任务上实验证明了KuramotoGNN相对于基准GNN和现有方法在减少过度平滑方面的优势。