KDDMay, 2019

Cluster-GCN：一个用于训练深度和大型图卷积网络的高效算法

PDF
TL;DR本文介绍了 Cluster-GCN 算法，通过利用图聚类结构，将邻域搜索限制在一个由图聚类算法确定的密集子图中，从而实现大规模 GCN 的 SGD 训练，在保证可比性测试精度的情况下显著提高了内存和计算效率。
graph convolutional networkcluster-gcnsgd-based traininggraph clusteringmemory efficiency
发现论文，激发创造
  • 高精准、高效率和可扩展性的图嵌入算法

    本文提出了并行化技术，为图采样 GCN 提供卓越的可扩展性性能，在不妥协准确性的情况下，在非常大的图上实现了优秀的性能。具体地，我们保证了 GCN 的高效训练，并在计算和通信方面节约了数量级的开销，同时，我们的并行图嵌入在可扩展性、效率和准确性方面优于现有的方法。

    Oct, 2018

  • PolicyClusterGCN: 为训练图卷积网络识别有效簇群

    本文提出 PolicyClusterGCN, 该算法基于在线强化学习框架，学习策略网络以确定 GCN 训练的良好聚类，使用 Markov 决策过程公式化策略网络，该算法在节点分类任务上实现了超越现有技术的性能。

    Jun, 2023

  • L$^2$-GCN: 图卷积网络的层次和学习有效训练

    本研究提出了一种高效的图形卷积网络（GCN）训练框架 L-GCN，该框架通过在训练期间解耦功能聚合和功能转换，大大降低了时间和内存复杂度，并提出了 L²-GCN，用于每个层学习控制器，可以自动调整每个层的训练时期。实验表明，在不依赖于数据集大小的一致内存使用情况下，L-GCN 比现有技术快至少一个数量级，同时保持可比的预测性能。

    Mar, 2020

  • 分布式内存系统上的可扩展图卷积网络训练

    我们提出了一种高度并行的算法，用于效放缩大处理器计数的图卷积网络的训练。我们利用图的顶点划分，在处理器之间使用非阻塞点对点通信操作以获得更好的可伸缩性。我们基于超图划分模型提出一种稀疏矩阵划分方案，展示了所提出算法在真实世界的图数据集上比替代解决方案实现了相当快的加速（包括在亿级图上的表现）。

    Dec, 2022

  • 用于半监督节点分类的分层图卷积网络

    本研究提出了一种新的深层分层图卷积网络 (H-GCN)，通过聚合结构相似的节点形成超节点，然后再将粗化的图细化到原始图以恢复每个节点的表达，从而扩大每个节点的感受野，能够获取更多的全局信息，并在各种公共基准测试图数据集上表现出强大的实证性能。

    Feb, 2019

  • N-GCN：用于半监督节点分类的多尺度图卷积

    该研究提出了一种名为 N-GCN 的模型，将图卷积网络和随机游走中的信息融合，训练多个 GCNs 实例，并学习组合不同距离下的节点对的实例输出，实现优化分类目标。实验证明，该模型在节点分类任务上表现优异，具有良好的通用性和鲁棒性。

    Feb, 2018

  • 半监督学习中图卷积网络的深入洞察

    本文研究机器学习领域的图半监督学习，提出了基于图卷积网络的深度学习方法，解决了图卷积网络机制不清晰及需要大量标注数据的问题，并针对浅层结构的限制提出了弱监督训练的方法。经过广泛实验验证，研究结果具有实际应用价值。

    Jan, 2018

  • HyperGCN: 超图上训练图卷积网络的新方法

    本文介绍 HyperGCN，一种用于属性超图上的半监督学习以及组合优化的图卷积网络，旨在解决超图中普遍存在的复杂关系建模问题。

    Sep, 2018

  • FastGCN: 基于重要性采样的图卷积网络快速学习

    本文提出一种名为 FastGCN 的基于 Monte Carlo 方法的图卷积神经网络批量训练方案，实现了对于大型、密集图的高效训练和推理。实验证明该方案与 GCN 和相关模型相比，训练效率极大提高并且预测结果保持准确。

    Jan, 2018

  • 面向分布式训练的图卷积网络通信高效采样

    本文提出了一种通信高效的邻居采样方法，用于分布式训练图卷积网络，并在节点分类基准测试中证明了该方法显著降低了通信开销，损失很少的准确性。

    Jan, 2021