该论文介绍了一个名为 NextDoor 的系统，该系统使用称为 transit-parallelism 的新方法，在 GPU 上高效执行图形采样，并比现有系统运行得更快，该系统提供给终端用户撰写各种图形采样算法的高级抽象。

Sep, 2020

提出了一种名为 Marius 的系统，用于在单台机器上训练大规模图的嵌入向量，利用分区缓存和缓冲区感知数据排序减少磁盘访问和优化数据移动，并在多种基准测试中表现出比现有工业系统高十倍的效率和可扩展性。

Jan, 2021

本文研究了在 IoT 环境中使用的 node2vec 算法的应用，提出了结合在线序列训练算法的方法，并在资源有限的 FPGA 设备上实现。所提出的 FPGA 实现相较于原模型在 CPU 上获得了 205.25 倍的加速，评估结果显示，提出的序列模型能够获得更好的图嵌入表示，即使在图结构改变时仍能提高准确性。

Dec, 2023

本文提出了并行化技术，为图采样 GCN 提供卓越的可扩展性性能，在不妥协准确性的情况下，在非常大的图上实现了优秀的性能。具体地，我们保证了 GCN 的高效训练，并在计算和通信方面节约了数量级的开销，同时，我们的并行图嵌入在可扩展性、效率和准确性方面优于现有的方法。

Oct, 2018

DGL-KE 是一个开源的知识图谱嵌入计算软件包，采用多进程、多 GPU 和分布式并行化等各种创新优化，可以在 8 个 GPU 的 EC2 实例上的 100 分钟内计算出 8600 万节点和 3.38 亿边的知识图谱的嵌入，比其他竞争方法快 2 至 5 倍。

Apr, 2020

通过 CPU-FPGA 异构系统，我们设计了一种新型加速器，通过算法 - 架构协同优化，提升 Graph Convolutional Networks 训练的速度。我们采用子图算法，优化特征传播，并提出基于 systolic array 的设计，实现了如此高效的加速。在 Xilinx Alveo U200 及 40 核 Xeon 服务器上，我们的设计比现有多核平台的最新实现快一个数量级，且几乎没有精度损失。

Dec, 2019

该论文介绍 DistGNN，它使用共享内存实现 CPU 集群上的完全批量训练，减小了通过最小顶点切割图分区算法通信的要求，使用一系列延迟更新算法避免了通信，并在 Reddit、OGB-Products、OGB-Papers 和 Proteins 等常见 GNN 基准数据集上获得了 3.7 倍到 97 倍的加速。

Apr, 2021

这篇论文提出了一种全局节点采样算法，名为 Global Neighborhood Sampling，以满足大规模复杂图的图神经网络训练需求，该算法能使混合 CPU-GPU 训练的高效训练成为可能，并通过实验展现了比传统邻居采样方法更加高效的结果。

Jun, 2021

BatchGNN 是一个分布式 CPU 系统，可用于高效地在千兆字节级别的图形上训练图神经网络，通过在一个通信中绑定多个子图采样和特征提取以减少冗余特征提取、提供整合图分割和本地 GNN 层实现来提高运行时间，可以缓存聚合输入特征以进一步减少采样开销，相对于 DistDGL，GNN 的平均速度加快了 3 倍，在三个 OGBN 图表上训练的 GNN 模型优于分布式 GPU 系统 P3 和 DistDGLv2 的运行时间，并且可以扩展到千兆字节级别的图形。

Jun, 2023

通过对现有的图嵌入系统进行多方面调整，将图划分为更小的子图进行处理，我们提出了创新型的 PyTorch-BigGraph (PBG) 嵌入系统，其可以扩展到包含数十亿个节点和万亿条边的图谱，使得我们能够对大型社交网络图和 Freebase 数据集等各种大型图谱进行分布式处理和大规模分析。

Mar, 2019