Jun, 2024

通过预处理的图扰动实现可扩展的表达能力

PDF
TL;DR图神经网络成为分析图结构数据的主要方法，但是传统的图神经网络的表达能力和泛化能力有局限性，因此引发了更加表达力和计算复杂性的方法的发展。为了解决规模性问题，提出了经过预处理图扰动的可扩展表达模型（SE2P），该模型提供了可灵活配置的四种配置类来实现可扩展性和泛化性的平衡，通过在实验中与各种最先进的基准模型进行对比，结果表明在选定的 SE2P 配置下，该模型可以提高泛化能力并实现高达 8 倍的速度改进。
发现论文，激发创造
  • 预训练图神经网络用于通用结构特征提取

    本文提出一种预训练框架，使用合成图纹理来获取通用图结构信息，提高了已训练模型在不同下游任务上的性能。

    May, 2019

  • 应用于 PDE 代理的柔性 SE (2) 图神经网络

    本文提出了一种新颖的方法，构建与 2D 旋转和平移等变的图神经网络，并将它们作为非格网域上的 PDE 替代物。我们展示了将表示与主轴对齐的效果，使我们能够避开许多约束，同时保持 SE (2) 等变性。通过将我们的模型应用于流体流动模拟并针对非等变模型进行全面评估，我们证明在数据效率和准确性方面取得了显著进展。

    May, 2024

  • 在保留解释的图扰动下的 PAC 可学习性

    图形模型及图神经网络中的解释辅助学习和数据增强的研究，探讨了解释辅助学习规则和数据增强方法，以及它们在训练中的优势和限制。

    Feb, 2024

  • 双向传播推进的可扩展图神经网络

    本文介绍了一种名为 GBP 的可扩展的 GNN，使用本地化的双向传播过程来实现高效的训练与测试，理论分析表明其是第一种在预计算和训练阶段都实现了次线性时间复杂度的方法，并在大规模图上取得了最先进的性能。

    Oct, 2020

  • 不变和等变图神经网络的表现能力

    本文提出了一个理论框架，可以比较图神经网络架构的表达能力，证明了实用 GNN 的第一近似保证，FGNN 被证明是最具表现力的架构之一，在 Quadratic Assignment Problem 中的应用表明 FGNN 能够比现有的基于谱、SDP 或其他 GNN 架构的算法表现得更好。

    Jun, 2020

  • 电力系统状态估计中图神经网络的可扩展性和样本效率分析

    本论文针对基于图神经网络应用于因子图的相量测量装置的状态估计器进行了全面评估，通过多种训练集大小的实验及不同规模的电力系统进行实验，结果表明该算法在提高系统行为分析效率方面具有高精度、高效率、低内存占用和低推断时间的特点。

    Feb, 2023

  • 扩张图传播

    该研究使用扩展图形传递信息来提出了一种名为 EGP 的图神经网络，以解决全图分类或回归任务中的挑战，同时避免病态行为和过度压缩等问题，为解决 GNN 中的过度压缩问题开辟了一条新途径。

    Oct, 2022

  • 更强大的图神经网络：等变稳定位置编码

    本文讨论了使用位置编码技术来改进图神经网络在节点集合任务中预测的问题，并提出了一种被称为 PEG 的类 GNN 层，它使用单独的通道更新原始节点特征和位置特征。PEG 同时对原始节点特征施加排列等变性质，并对位置特征施加 O（p）等变性质，其中 p 是使用的位置特征的维度。在 8 个真实世界网络上的广泛链接预测实验表明，PEG 在泛化和可伸缩性方面具有优势。

    Mar, 2022

  • 图形神经网络扩展的理论比较

    本文研究和比较了不同的图神经网络扩展方法，包括基于更高阶 Weisfeiler-Leman 方法、对图中小子结构进行预处理、对图进行局部预处理和计算嵌入等方法，并通过一系列实例构造比较了这些方法的表达能力。

    Jan, 2022

  • 基于节点自适应传播的加速可扩展的图神经网络推理

    大规模图的实时推断对于图神经网络 (GNNs) 提出了一项重大挑战，但我们提出了一种在线传播框架和两种新的节点自适应传播方法来加速可扩展 GNNs 的推断过程，并通过简单的超参数灵活管理准确性和时延之间的平衡。此外，我们进一步提出了 Inception Distillation 来弥补推断准确性损失，实验结果显示我们的方法在精确性和效率上优于现有的图推断加速方法。

    Oct, 2023