Nov, 2023

PyTorch Geometric 高阶图神经网络统一库

PDF
TL;DRPyTorch Geometric High Order (PyGHO) 是一个用于高阶图神经网络（HOGNNs）的库，扩展了 PyTorch Geometric（PyG）。该库通过简化的节点元组数据结构、全面的数据处理工具和高阶 GNN 方法的灵活运算符，提供了一个统一且用户友好的接口。本研究详细介绍了 PyGHO，并将使用 PyGHO 实现的 HOGNNs 与官方实现在真实任务上进行比较。PyGHO 可以实现高达 50% 的加速，并将实现所需的代码量减少一个数量级。
pytorch geometric high ordergraph neural networkshognnssubgraph gnnsk-wl gnns
发现论文，激发创造
  • 高阶图神经网络揭秘

    高阶图神经网络（HOGNNs）是一类重要的 GNN 模型，能够利用顶点之间的多系关系来解决过度平滑或过度压缩等问题，显著提高 GNN 预测准确性，改进 GNN 架构，并能帮助选择最适合特定场景的 GNN 模型，提出了具有挑战与机遇的 HOGNN 进一步研究的全面列表。

    Jun, 2024

  • 使用 PyTorch Geometric 进行快速的图形表征学习

    PyTorch Geometric 是一个基于 PyTorch 的深度学习库，用于处理不规则结构的输入数据，如图形，点云和流形。该库通过利用稀疏 GPU 加速，提供专用的 CUDA 内核以及引入对不同大小的输入示例的高效小批量处理，实现了高数据吞吐量。本文详细介绍了该库，并在同质评估场景下对实现的方法进行了全面比较研究。

    Mar, 2019

  • 张量化超图神经网络

    提出了一种基于张量的高阶超图神经网络模型，它利用高阶外积特征传递实现了对高阶信息的有效提取，并通过部分对称 CP 分解方法降低了模型复杂度；在两个三维视觉对象分类数据集上进行的实验结果表明了其性能优越性。

    Jun, 2023

  • 高阶逻辑和定理证明的图表示

    本文首次使用图神经网络 (GNNs) 实现高阶证明搜索，并证明 GNNs 能够提高此领域的最新成果。我们考虑了高阶逻辑的几种图形表示，并将它们与 HOList 基准进行了评估。

    May, 2019

  • 探索图解释中的高阶结构

    介绍了一种名为 HOGE 的框架，用于捕捉使用细胞复合体建模的高阶结构，可用于解释图神经网络的预测，并在实际应用中达到更清晰和更准确的解释。

    Jun, 2024

  • 因子图神经网络

    我们提出了一种能够有效捕捉高阶关系进行推理和学习的因子图神经网络模型，并通过适当选择信息聚合操作，实现了 Max-Product 和 Sum-Product 循环置信传播的单一架构。通过在真实和合成数据集上进行广泛的实验评估，证明了该模型的潜力。

    Aug, 2023

  • 针对科学应用的图神经网络操作水平性能基准测试

    通过在 PyTorch Geometric 软件框架中实现科学计算所需的低级操作并在 NVIDIA A100 GPU 上进行基准测试，我们发现在专用硬件平台上具有关键作用的操作时限制内存效率的瓶颈而不仅仅是数据稀疏性，希望这些结果能成为此类操作的基准，并有助于未来的软件和硬件优化，从而实现可扩展的 GNN 性能的整体增强。

    Jul, 2022

  • 超图神经网络

    本研究提出了一种超图神经网络 (HGNN) 框架，可以通过超图结构编码高阶数据相关性，并使用超边卷积操作处理数据相关性，以有效地进行数据表示学习。实验结果表明，HGNN 方法优于最新的最先进的方法，并且可以处理现实世界中的复杂数据和多模数据。

    Sep, 2018

  • 基于张量分解的高阶汇聚图神经网络

    本研究提出了一种新的 Graph Neural Networks 模型 ——Tensorized Graph Neural Network（tGNN），采用张量分解来模型高阶非线性节点交互和计算图形表征，并在节点和图分类任务中得到了超越竞争基线的表现。

    May, 2022

  • 高阶动态图表示学习与高效 Transformer 模型

    通过在 Transformer 的注意力矩阵中编码高阶图结构，HOT 模型在图表示学习中的动态问题中提高了链接预测的准确性，同时通过设置层次结构在注意力矩阵上显著减少内存占用。与其他动态图表示学习方案相比，HOT 在 MOOC 数据集上实现了相对较高的准确性，分别比 DyGFormer、TGN 和 GraphMixer 分别高出 9%、7% 和 15%。

    Nov, 2023