Aug, 2023

缓存操作重排:快速 GNN 训练的统一视角

TL;DR图神经网络(GNNs)在处理结构化图形数据和解决节点分类、图分类以及聚类等任务方面是一个强大的工具。本研究通过提供 GNN 计算、输入输出和内存的统一视角,分析了图卷积网络(GCN)和图注意力(GAT)层的计算图,提出了替代的计算策略和自适应运算符重新排序并缓存,以提高 GCN 和 GAT 层的速度,节省内存,并能够有效缓解大规模 GNN 模型训练中的性能瓶颈。