Nov, 2023

GNNFlow：动态图上连续时态 GNN 学习的分布式框架

PDF
TL;DRGNNFlow 是一个分布式框架，可以在多 GPU 机器上进行高效的连续时态图表示学习，支持动态图并采用自适应的时间索引块数据结构、混合 GPU-CPU 图数据放置、GPU 缓存以及优化策略等技术，实现了比现有系统快 21.1 倍的连续学习效果。
graph neural networksgnnflowtemporal graph representation learningdynamic graphsdistributed training
发现论文，激发创造
  • 大规模动态图的解耦图神经网络

    本文提出了一种分离式图神经网络方法，适用于连续型和离散型大型动态图，通过统一的动态传播方法，能够在预测任务中支持序列模型，实现了卓越的可扩展性和表现力，实验结果在连续型和离散型动态图上均达到了最先进表现。

    May, 2023

  • 基于时间图的动态图深度学习

    本文提出了一种称为 TGN 的新型深度学习框架，可以有效地在动态图形学中学习演化特征或连接。

    Jun, 2020

  • 动态图神经网络调查

    图神经网络已成为从图结构数据中有效挖掘和学习的强大工具，但大多数研究侧重于静态图，忽视了真实世界网络的动态特性，该论文提供了对基本概念、关键技术和最新动态图神经网络模型的全面综述。

    Apr, 2024

  • 动态图神经网络综述：模型、框架、基准、实验与挑战

    本文通过对 81 个动态 GNN 模型、12 个动态 GNN 训练框架和常用基准进行了全面的比较分析和实验评估，在对六个标准图数据集上测试了九个代表性的动态 GNN 模型和三个框架。评估指标包括收敛精度、训练效率和 GPU 内存使用情况，从而实现了对各种模型和框架性能的全面比较。通过分析和评估结果，我们确定了关键挑战，并提出了未来研究的原则，以增强动态 GNN 领域模型和框架的设计。

    May, 2024

  • 流式图神经网络的持续学习

    本文提出一种基于持续学习的流式 GNN 模型，通过信息传播和数据重放与模型正则化相结合，实现了对新模式和既有模式的同时维护，解决了历史知识被新知识覆盖的灾难性遗忘问题。在多个实验数据集上的节点分类结果表明，该模型能有效地更新模型参数并达到与重新训练相当的性能。

    Sep, 2020

  • 动态图神经网络的高效扩展

    本文介绍了一种在大规模动态图上训练分布式算法的方法，采用图差分策略和数据分布技术极大地降低了传输和运行时间，并在使用 128 个 GPU 的系统上取得了高达 30 倍的加速。

    Sep, 2021

  • 面向时间图的图神经网络：现状、挑战和机遇

    本文是对临时图形神经网络的综合评述，主要介绍了学习设置和任务的严格形式化，以及一种新颖的分类方法来分类已有的方法，讨论了该领域的最相关的开放挑战。

    Feb, 2023

  • TimeGNN：时间序列预测的时间动态图学习

    TimeGNN 是一种学习动态时间图表示的方法，能够捕捉多个系列的相关性和交互模式的演变，并在预测性能方面实现比其他先进的基于图的方法快 4 到 80 倍的推理时间。

    Jul, 2023

  • NeutronStream：一种面向图流的具有滑动窗口的动态 GNN 训练框架

    NeutronStream 是一个用于训练动态 GNN 模型的框架，它将输入的动态图抽象为一个按时间顺序更新的事件流，并通过优化的滑动窗口逐步捕捉事件的时空依赖关系。此外，NeutronStream 提供了一个并行执行引擎来解决顺序事件处理的挑战，以实现高性能。与最先进的动态 GNN 实现相比，NeutronStream 实现了 1.48 倍至 5.87 倍的加速和平均准确率提高了 3.97%。

    Dec, 2023

  • 流式图神经网络

    本文提出一种新的动态图神经网络模型 DGNN，能够利用图的动态信息，通过捕捉边之间的顺序信息、边之间的时间间隔和信息传播一致性，不断更新节点信息，以适应不断发展变化的图，实验结果证明了该框架的有效性。

    Oct, 2018