Mar, 2022

I-GCN: 通过孤岛化实现运行时局部性增强的图卷积网络加速器

PDF
TL;DR本文提出了一种新的硬件加速器 I-GCN，采用在线图重构算法 Islandization，通过处理岛屿而不是单个节点，从而显著提高了数据局部性和减少了不必要的计算。I-GCN 可以减少 38% 的聚合操作，性能速度普遍快于 CPU、GPU 和先前的 GCN 加速器。
graph convolutional networkshardware accelerationislandizationdata localityredundant computation
发现论文，激发创造
  • GraphACT: 在 CPU-FPGA 异构平台上加速 GCN 训练

    通过 CPU-FPGA 异构系统，我们设计了一种新型加速器，通过算法 - 架构协同优化，提升 Graph Convolutional Networks 训练的速度。我们采用子图算法，优化特征传播，并提出基于 systolic array 的设计，实现了如此高效的加速。在 Xilinx Alveo U200 及 40 核 Xeon 服务器上，我们的设计比现有多核平台的最新实现快一个数量级，且几乎没有精度损失。

    Dec, 2019

  • HyGCN：一种具有混合架构的 GCN 加速器

    本文提出一种基于混合架构的 GCN 加速器 HyGCN，该加速器在处理 GCNs 时具有细粒度的并行性，利用两个处理引擎来缓解 Aggregation 阶段的不规则性和 Combination 阶段的规则性，并通过间相位融合和基于优先级的内存访问协调来优化整个系统，相较于 Intel Xeon CPU 和 NVIDIA V100 GPU 上的现有软件框架，该加速器平均获得了 1509 倍的加速比，同时降低了 2500 倍的能耗和 6.5 倍的加速比以及 10 倍的能耗降低。

    Jan, 2020

  • Accel-GCN：图卷积网络的高性能 GPU 加速器设计

    Accel-GCN 是一种针对 Graph Convolutional Networks 的 GPU 加速器架构，通过轻量级的节点排序、块级分区策略、以及组合的 warp 策略，优化了 GCN 的计算效率，并在 18 个基准图上表现出比 cuSPARSE、GNNAdvisor 和 graph-BLAST 分别高出 1.17 倍、1.86 倍和 2.94 倍的性能。

    Aug, 2023

  • Cluster-GCN：一个用于训练深度和大型图卷积网络的高效算法

    本文介绍了 Cluster-GCN 算法，通过利用图聚类结构，将邻域搜索限制在一个由图聚类算法确定的密集子图中，从而实现大规模 GCN 的 SGD 训练，在保证可比性测试精度的情况下显著提高了内存和计算效率。

    May, 2019

  • 简单而深入的图卷积网络

    本研究提出了一种使用深度学习解决图像识别问题的方法 ——GCNII，并通过两种新技术 — 初始残差和身份映射 — 缓解了问题过度平滑的问题。实验结果表明深度 GCNII 模型在半监督和全监督任务中的性能优于现有方法。

    Jul, 2020

  • 利用 Versal 体系结构的芯片内异构性加速 GNN 推理

    基于 AMD Versal ACAP 架构，利用数据稀疏性加速图神经网络（GNN）推理，通过自定义硬件模块在可编程逻辑（PL）上执行稀疏计算，利用 AI Engine（AIE）高效计算稠密计算部分，并通过动态分配计算任务的运行时内核映射策略在 PL 和 AIE 上分别进行计算，从而在 VCK5000 ACAP 平台上相比于 CPU、GPU、ACAP 和其他自定义 GNN 加速器实现获得更好的性能，平均速度提升分别为 162.42x、17.01x、9.90x 和 27.23x，对于图卷积网络（GCN）推理，相对于仅使用 PL 设计的方案在同一 ACAP 设备上获得了 3.9-96.7 倍的速度提升。

    Aug, 2023

  • 用于半监督节点分类的分层图卷积网络

    本研究提出了一种新的深层分层图卷积网络 (H-GCN)，通过聚合结构相似的节点形成超节点，然后再将粗化的图细化到原始图以恢复每个节点的表达，从而扩大每个节点的感受野，能够获取更多的全局信息，并在各种公共基准测试图数据集上表现出强大的实证性能。

    Feb, 2019

  • IA-GCN: 交互图卷积网络用于推荐

    本文提出 InterActive GCN，针对已有的基于 GCN 的协同过滤推荐系统采用相同的聚合方式从用户邻域中学习用户的表示，从而忽略了用户 - 项目对之间的交互特征。新模型在用户 - 项目对之间构建双边交互指导，提供了交互和可解释的特征，并且通过每个图卷积操作有效地提取了目标特定信息，能够与各种基于 GCN 的 CF 体系结构端到端地组合使用。实验表明，本文提出的 IA-GCN 具有较好的效果和鲁棒性。

    Apr, 2022

  • Bi-GCN: 二元图卷积网络

    本文介绍了一种二进制图卷积神经网络（Bi-GCN），它将网络参数和输入节点特征进行二元化，并将原始矩阵乘法改为二进制运算以加速计算，并使用一种新的梯度逼近反向传播方法来训练我们的 Bi-GCN。实验表明，与全精度基线相比，Bi-GCN 在节省内存资源方面平均可以减少约 30 倍，并平均加速推理速度约 47 倍，并且该二进制方法还可以轻松应用于其他 GNNs。

    Oct, 2020

  • 高精准、高效率和可扩展性的图嵌入算法

    本文提出了并行化技术，为图采样 GCN 提供卓越的可扩展性性能，在不妥协准确性的情况下，在非常大的图上实现了优秀的性能。具体地，我们保证了 GCN 的高效训练，并在计算和通信方面节约了数量级的开销，同时，我们的并行图嵌入在可扩展性、效率和准确性方面优于现有的方法。

    Oct, 2018