MMOct, 2022

边缘端的 GNN：在分布式边缘服务器上实现成本有效的图神经网络处理

PDF
TL;DR本文系统研究了多层异构边缘网络上的分布式图神经网络处理的成本优化，发现图神经网络的独特计算模式含有二次次模性质，在此基础上设计了基于图切割的迭代解法，并通过实验评估证明了其在成本降低、收敛速度等方面均具有优异性能。
edge intelligencegraph neural networksdistributed processingcost optimizationgraph layout optimization
发现论文，激发创造
  • 分布式图神经网络训练：综述

    这篇综述论文分析了分布式图神经网络训练的三个挑战以及通过四类优化技术解决这些挑战的方法：GNN 数据分区、GNN 批量生成、GNN 执行模式和 GNN 通信协议。最后，本文总结了现有的多 GPU、GPU 集群和 CPU 集群的分布式 GNN 系统，并就可伸缩 GNNs 的未来方向进行了讨论。

    Nov, 2022

  • 图神经网络分布式系统的演化及其在图处理和深度学习中的起源：一项调查

    本文总结和分类大规模图神经网络解决方案的重要方法和技术，并建立了图神经网络系统、图处理系统和深度学习系统之间的联系。

    May, 2023

  • CATGNN: 图神经网络的高效可扩展分布式训练

    CATGNN 是一个成本效益高且可扩展的分布式 GNN 训练系统，专注于在有限计算资源下扩展 GNN 训练到十亿规模或更大规模的图，并提出了一种名为 SPRING 的新型流式分区算法来进行分布式 GNN 训练。在 16 个开放数据集上验证了 CATGNN 与 SPRING 的正确性和有效性，尤其是证明了 CATGNN 能够处理最大的公开可用数据集，并在平均复制因子上显著优于最先进的分区算法 50%。

    Apr, 2024

  • 学习资源分配策略：顶点 - GNN 还是边 - GNN？

    分析了 Vertex-GNNs 和 Edge-GNNs 在学习无线策略时的表达能力，说明了通过使用线性处理器和输出维度来提高 GNNs 的表达能力的必要条件，并通过模拟结果验证了 Edge-GNNs 能以较低的训练和推理时间达到与 Vertex-GNNs 相同的性能。

    Jul, 2023

  • ENGNN: 一种通用的具有边缘更新功能的 GNN 结构，用于无线网络中的无线电资源管理

    为了在未来的无线网络中实现高数据速率和无处不在的连接，本文提出了一种基于图神经网络的边更新机制，以高效地管理射束形成和功率分配等无线电资源，并在典型的无线电资源管理问题中取得了比现有方法更高的总速率和更短的计算时间。

    Dec, 2022

  • 计算图神经网络：从算法到加速器的综述

    该研究论文通过对 GNNs 的计算效率进行探讨，提供了该领域的回顾，包括对 GNN 的基本概念的简短教程以及不同算法变体的多个阶段中进行的操作的总结；同时，提供了对当前软件和硬件加速方案的深入分析，并提出了一个面向硬件和软件的、图形感知和通信为中心的 GNN 加速器的愿景。

    Sep, 2020

  • 异构图神经网络中的半分散式推理用于交通需求预测：一种边缘计算方法

    通过使用云端边缘多个中等大小和高吞吐量的通信网络，提出了一种半分散的方法，以改进出租车需求和供应量预测，该方法结合了集中和分散设置的最佳功能，并且对于出租车需求和供应预测具有 GNN-LSTM 算法的优势。

    Feb, 2023

  • EdgeNets: 边缘变化的图神经网络

    本文提出 EdgeNet 框架，将现有的图卷积神经网络（GCNNs）和图注意力网络（GATs）统一起来，使得同一问题可以使用不同的 GNN 结构来解决，并且指导和优化各种 GNNs 的性能和实现。

    Jan, 2020

  • DistGNN：大规模图神经网络的可扩展分布式训练

    该论文介绍 DistGNN，它使用共享内存实现 CPU 集群上的完全批量训练，减小了通过最小顶点切割图分区算法通信的要求，使用一系列延迟更新算法避免了通信，并在 Reddit、OGB-Products、OGB-Papers 和 Proteins 等常见 GNN 基准数据集上获得了 3.7 倍到 97 倍的加速。

    Apr, 2021

  • NDGGNET：基于结点无关门的图神经网络

    该论文提出了一种新的框架，使用基于节点度数的门控机制动态地调整图神经网络的层数，从而增强信息聚合的能力并减少过度平滑，通过实验验证该模型在多个数据集上表现良好。

    May, 2022