通过构建一个分布式图存储的 AliGraph 系统，本论文针对大型图数据集上的机器学习问题，实现了高效的图神经网络训练和开发，并在阿里巴巴的电商平台上实际应用于产品推荐和个性化搜索等业务场景中，提高了训练效率和模型效果。

Feb, 2019

该论文介绍 DistGNN，它使用共享内存实现 CPU 集群上的完全批量训练，减小了通过最小顶点切割图分区算法通信的要求，使用一系列延迟更新算法避免了通信，并在 Reddit、OGB-Products、OGB-Papers 和 Proteins 等常见 GNN 基准数据集上获得了 3.7 倍到 97 倍的加速。

Apr, 2021

GLISP 是一个针对工业规模图的基于采样的 GNN 学习系统，通过利用图的内在结构特性解决了在图学习过程的不同阶段出现的可扩展性和性能问题，并且在训练和推断任务上相对于现有的 GNN 系统实现了 6.53 倍和 70.77 倍的加速，并能够在资源有限的情况下扩展到具有超过 100 亿个顶点和 400 亿条边的图。

Jan, 2024

最近几年，连续学习技术在从流数据中保留知识的同时进行学习方面取得了重要的进展，但现有的评估框架不适用于具有图结构数据的情况。本研究提出了一个考虑图结构数据的图感知评估框架，解决了以往评估框架的局限性，并在连续学习、连续图学习和动态图学习领域进行了大量实验验证。

Jun, 2024

本文介绍了 DistDGL 系统，作为基于 Deep Graph Library（DGL）进行开发的图神经网络（GNN）的分布式训练系统，具有高效、可扩展性等优点。该系统采用了高质量且轻量级的最小割图划分算法，并支持非本地节点组成的自我网络进行小批量训练。经过优化后，该系统可以在线性速度下训练高质量的模型，并且在 16 台机器上只需 13 秒完成 100 万节点和 30 亿边数的图的训练。

Oct, 2020

本文提出了一种新的图神经网络架构 - 图注意力多层感知器（GAMLP），并在多个真实世界数据集和大规模工业数据集上进行了评估，证明了 GAMLP 在扩展性和效率方面具有最先进的性能。

Jun, 2022

本文系统研究了多层异构边缘网络上的分布式图神经网络处理的成本优化，发现图神经网络的独特计算模式含有二次次模性质，在此基础上设计了基于图切割的迭代解法，并通过实验评估证明了其在成本降低、收敛速度等方面均具有优异性能。

Oct, 2022

该研究提出了一种新型的自适应核图神经网络框架（AKGNN），通过设计一种数据驱动的图内核学习机制来解决预定义核对于不同图之间间的泛化问题，同时通过参数化技巧和全局输出函数增强其表达能力，该方法在公认的基准数据集上展示了优异的性能表现。

Dec, 2021

本研究提出了一种 Alternating Graph-regularized Neural Network (AGNN) 模型，其中包括 Graph Convolutional Layer (GCL) 和 Graph Embedding Layer (GEL)。GEL 通过包含拉普拉斯嵌入项的图正则化优化导出，可以通过从低阶特征空间定期投影到高阶空间来缓解过度平滑问题。通过改进的 Adaboost 策略聚合来自每一层的输出，并探索多跳邻居的集成嵌入，评估表明，在比较某些多层或多阶图神经网络的性能基础上，AGNN 比现有的最先进模型表现更好。

Apr, 2023

这篇综述论文分析了分布式图神经网络训练的三个挑战以及通过四类优化技术解决这些挑战的方法：GNN 数据分区、GNN 批量生成、GNN 执行模式和 GNN 通信协议。最后，本文总结了现有的多 GPU、GPU 集群和 CPU 集群的分布式 GNN 系统，并就可伸缩 GNNs 的未来方向进行了讨论。

Nov, 2022