KDDJul, 2020

使用近似的 PageRank 扩展图神经网络规模

PDF
TL;DR本研究提出 PPRGo 模型，利用有效的 GNN 信息扩散近似，以显着提高速度并保持最先进预测性能。相比其他 GNN 方法，PPRGo 不仅更快，而且天然可扩展，在 Google 的大规模节点分类问题方面具有实际应用价值。
graph neural networkpprgo modellarge-scale graphscalablenode classification
发现论文，激发创造
  • 大规模图上完全个性化 PageRank 的分布式算法

    本文提出了使用分布式计算框架计算大型边加权图的全面边加权个性化 PageRank 的新方法，使用了蒙特卡罗近似并结合优化技术，其准确性表现显着超过基线算法，并且速度比现有技术快数个数量级。

    Mar, 2019

  • 预测后传播：图神经网络遇见个性化 PageRank

    本文通过引入 PageRank 的个性化传播机制，构建了 PPNP 和其快速逼近版本 APPNP 两种新的方法，其训练速度相当或更快，参数数量相当或更少，并且与任何神经网络结合使用， 用于半监督分类，在最彻底的 GCN-like 模型的研究中，展示了该模型胜过几种近期提出的方法。

    Oct, 2018

  • 将 PageRank 转化为无限深度图神经网络

    本文提出了一种称为 PPRGN 的神经网络，该网络基于 Personalized PageRank 的思想，通过无样本学习的方式训练图像分类模型，该模型具有无限深度且不会出现过度平滑的问题，在各种节点和图像分类任务中实验表现卓越。

    Jul, 2022

  • 图神经网络的最优传播学习

    本文提出一种基于双层优化的方法，通过直接学习个性化 PageRank 传播矩阵以及下游半监督节点分类并同时进行学习，学习最佳的图结构，并探索低秩逼近模型以进一步降低时间复杂度。实证评估表明，所提出的模型在所有基线方法中具有更高的有效性和鲁棒性。

    May, 2022

  • 双向传播推进的可扩展图神经网络

    本文介绍了一种名为 GBP 的可扩展的 GNN，使用本地化的双向传播过程来实现高效的训练与测试，理论分析表明其是第一种在预计算和训练阶段都实现了次线性时间复杂度的方法，并在大规模图上取得了最先进的性能。

    Oct, 2020

  • GRAND+: 可扩展的图形随机神经网络

    该论文提出了一种可扩展和高性能的图嵌入算法 GRAND+，并包含了推广前推（GFPush）算法和置信一致性损失来提高其准确性和泛化能力。实验结果表明，GRAND + 可以扩展到大型图并比现有的可扩展 GNNs 具有更少的运行时间和更高的准确性。

    Mar, 2022

  • 可扩展的 Inception 图神经网络 (SIGN)

    本文提出了一种新的、高效且可扩展的图深度学习架构，通过使用不同尺寸的图卷积滤波器，绕过了图采样的必要性，从而允许极快速的训练和推理，同时在比对测试中展现了与其他最先进架构相竞争的表现，对于包含超过 1.1 亿个节点和 15 亿条边的公共图数据集 ogbn-papers100M 实现了最先进的结果。

    Apr, 2020

  • DistGNN：大规模图神经网络的可扩展分布式训练

    该论文介绍 DistGNN，它使用共享内存实现 CPU 集群上的完全批量训练，减小了通过最小顶点切割图分区算法通信的要求，使用一系列延迟更新算法避免了通信，并在 Reddit、OGB-Products、OGB-Papers 和 Proteins 等常见 GNN 基准数据集上获得了 3.7 倍到 97 倍的加速。

    Apr, 2021

  • 基于节点自适应传播的加速可扩展的图神经网络推理

    大规模图的实时推断对于图神经网络 (GNNs) 提出了一项重大挑战，但我们提出了一种在线传播框架和两种新的节点自适应传播方法来加速可扩展 GNNs 的推断过程，并通过简单的超参数灵活管理准确性和时延之间的平衡。此外，我们进一步提出了 Inception Distillation 来弥补推断准确性损失，实验结果显示我们的方法在精确性和效率上优于现有的图推断加速方法。

    Oct, 2023

  • 高效异构图学习通过随机投影

    我们提出了一种名为 RpHGNN 的混合预计算型异构图神经网络，它将一种风格的效率与另一种风格的低信息损失相结合，通过引入随机投影压缩步骤和关系化邻居收集组件，在七个小型和大型基准数据集上获得了最先进的结果，并比大多数有效的基准方法快 230％。

    Oct, 2023