Dec, 2023

图计算加速器的实现

PDF
TL;DR图神经网络在图结构数据上学习提供了一种新颖的机器学习范例，能够捕捉图数据中的复杂关系和依赖性，从而在社交网络分析、分子化学和网络安全等领域具有重要的影响。本论文旨在深入研究 GNN 与底层硬件的交互方式，并设计专用加速器和新型优化方法，以实现更高效和更快速的 GNN 计算。我们基于对 GNN 计算需求的特征化构建了先进的硬件加速器结构，同时扩展了对图神经网络领域中新型模型的探索，旨在提供不仅高性能而且能适应图计算发展的多功能加速器。
发现论文，激发创造
  • 计算图神经网络：从算法到加速器的综述

    该研究论文通过对 GNNs 的计算效率进行探讨，提供了该领域的回顾，包括对 GNN 的基本概念的简短教程以及不同算法变体的多个阶段中进行的操作的总结；同时，提供了对当前软件和硬件加速方案的深入分析，并提出了一个面向硬件和软件的、图形感知和通信为中心的 GNN 加速器的愿景。

    Sep, 2020

  • 图神经网络加速综述：算法、系统和定制硬件

    本次调查报告提供了图神经网络加速的分类法，并回顾了现有方法，并提出了未来的研究方向，以便统一视图和解决相关工作的复杂性。

    Jun, 2023

  • 图神经网络加速调查：算法透视

    本文从算法角度提供了 GNNs 加速方法的综合调查，提出了包括五类在内的分类方法，并对这些方法进行了系统讨论和比较，最后为未来研究提出了一些有前途的前景。

    Feb, 2022

  • GNN 中的加速算法调查

    图神经网络 (GNN) 在各种基于图的任务中显示出有效性，然而他们在训练和推理中的低效性给实现规模化的实际世界和大规模图应用带来挑战。为了解决这些关键问题，提出了一系列加速 GNN 训练和推理的算法，吸引了研究界的越来越多的关注。本文对 GNN 中的加速算法进行了系统综述，根据目的将其划分为三个主要主题：训练加速、推理加速和执行加速。具体来说，我们总结和分类了每个主题下的现有方法，并对每个类别的方法进行了详细的描述和特征化分析。此外，我们还回顾了几个与 GNN 加速算法相关的库，并讨论了我们的可扩展图学习 (SGL) 库。最后，我们提出了未来研究的有希望的方向。在我们的 GitHub 仓库中提供了完整的摘要：this https URL。

    May, 2024

  • 朝向因果分类的图神经网络的全面研究

    研究发现了图神经网络在因果分析方面的潜力，通过评估不同数据环境中九个基准图分类模型的效率和灵活性，突显了预测能力以及需求进一步提升的领域。

    Jan, 2024

  • 揭开图：图神经网络与图生成

    综述了图神经网络 (GNNs) 的应用、图数据和深度学习的扩展，以及 GNNs 的高级领域：图生成。

    Mar, 2024

  • 图神经网络分布式系统的演化及其在图处理和深度学习中的起源：一项调查

    本文总结和分类大规模图神经网络解决方案的重要方法和技术，并建立了图神经网络系统、图处理系统和深度学习系统之间的联系。

    May, 2023

  • 图机器学习基础的未来方向

    机器学习与图神经网络，尤其是使用图神经网络（GNN）的机器学习，在各个领域的图数据广泛应用中受到了广泛关注。然而，对于 GNN 的性质仍存在理论上的不完备性。最近的理论进展主要集中于阐明 GNN 的粗粒度表达能力，主要使用组合技巧。然而，这些研究与实践并不完全一致，特别是在理解使用随机一阶优化技术训练时 GNN 的泛化行为方面。在本文中，我们将论证图机器学习社区需要将关注点转向发展一个更加平衡的图机器学习理论，重点研究表达能力、泛化和优化的相互作用。

    Feb, 2024

  • 深度图神经网络的系统综述：挑战、分类、架构、应用与生物信息学的潜在用途

    深度学习在图神经网络中的非欧几里得空间的生物信息学研究中具有潜在的优势，能够解决与生物相关的复杂图形问题。

    Nov, 2023

  • 图神经网络：方法和应用综述

    本文介绍了图神经网络（GNNs）的设计管道，详细讨论了其各个组成部分的变体，对其应用进行了系统分类，并提出了四个开放性问题供未来研究。

    Dec, 2018