May, 2024

GraphAny: 适用于任何图节点分类的基础模型

PDF
TL;DR该研究论文提出了一种名为 GraphAny 的基础体系结构，实现了对新图进行构造节点分类的推理，使用线性 GNN 的解析解并学习节点的注意力分数来融合多个线性 GNN 的预测，从而实现对不同图结构的泛化，该方法在归纳方式下，使用仅 120 个标记节点的威斯康辛数据集，可以在 30 个新图上实现平均准确率为 67.26％，超过了在受监督的规则中训练的 GCN 和 GAT 以及其他归纳基线。
foundation modelsgraph-structured datagraph neural networksinductive node classificationattention module
发现论文，激发创造
  • OpenGraph：走向开放图形基础模型

    我们开发了一个通用的图基础模型，通过理解不同基于图的数据中的复杂拓扑模式，使其在不同下游数据集上出色地完成零样本图学习任务。

    Mar, 2024

  • 图神经网络：方法和应用综述

    本文介绍了图神经网络（GNNs）的设计管道，详细讨论了其各个组成部分的变体，对其应用进行了系统分类，并提出了四个开放性问题供未来研究。

    Dec, 2018

  • 灵活表示多模块图神经网络以实现更好的泛化

    本文研究了图神经网络的可扩展性和推广性，并提出了灵活的 GNNs 框架，通过多种节点更新函数和内部循环优化，使网络能够灵活适应新图并在多项推理任务中提高泛化能力。

    Sep, 2022

  • 学习图的深度生成模型

    本文介绍了一种基于图神经网络的强大新方法，用于学习生成模型的过程中捕获图的结构和属性。实验证明，相较于不使用图结构表示的基线，我们的模型常常表现更好，是学习任意图的生成模型的第一个最通用的方法，为从矢量和序列式知识表示的限制中走向更具表现力和灵活性的关系型数据结构开辟了新方向。

    Mar, 2018

  • 图神经网络输出几乎肯定是渐近常数

    图神经网络（GNN）是用于各种图学习任务的主要架构。我们通过研究 GNN 概率分类器在从某个随机图模型中抽取的较大图上应用时的预测如何演变来呈现 GNN 表达能力的新视角。我们展示了输出收敛为常函数的现象，这个常函数上界了这些分类器能够统一表达的内容。这种收敛现象适用于包括最先进模型在内的广泛类别的 GNN，其中包括均值聚合和图转换器中的基于注意力的机制。我们的结果适用于包括（稀疏的）Erdős-Rényi 模型和随机块模型在内的广泛类别的随机图模型。我们通过实证验证了这些发现，并观察到即使在相对较小的图上，收敛现象已经显现出来。

    Mar, 2024

  • 图神经网络是内在良好的泛化器：通过建立 GNN 和 MLP 之间的联系进行深入探究

    本文通过引入中间模型 PMLP，揭示了 GNN 的性能提升主要源于其本质上的泛化能力，而非原理层面上的增强表现力。同时，本文发现 PMLP 表现与 GNN 相当，但训练效率更高。该发现为解析 GNN 相关问题提供了新的视角。

    Dec, 2022

  • 一对多：面向所有分类任务的单一图模型训练

    通过引入文本属性图和节点感兴趣的概念以及新颖的图提示范式，我们提出了全称为 One for All (OFA) 的通用框架，使得单个图模型能够处理多样的图学习任务，并在不同的领域表现出色。

    Sep, 2023

  • 一种集体学习框架以提高 GNN 表达能力

    本文提出了一种基于集体学习和自监督学习的蒙特卡洛采样框架，用于将当前的 GNN 模型进行增强以实现节点分类，实验结果表明，该方法在五个真实世界的网络数据集上都取得显著的性能提升。

    Mar, 2020

  • 学习图神经网络中的图网络

    本篇论文提出了一种新的图形神经网络 GL-GNN，通过学习关系的图形和选择重要数据特征以解决未知图形、节点具有嘈杂特征和图形含有噪声连接等三个问题，并在多个数据集上与基线方法进行对比， 能够选择重要特征和图形边缘。

    Oct, 2022

  • 深度图神经网络的系统综述：挑战、分类、架构、应用与生物信息学的潜在用途

    深度学习在图神经网络中的非欧几里得空间的生物信息学研究中具有潜在的优势，能够解决与生物相关的复杂图形问题。

    Nov, 2023