Oct, 2019

预训练与学习：为图神经网络保留全局信息

HTML
PDF
TL;DR该论文提出了一种名为G-GNNs的新型模型，通过无监督预训练获取节点的全局结构和属性特征，然后利用这些特征和原始网络属性，提出了一种GNN的并行框架以从这些特征中学习不同的方面。该模型的学习方法可应用于平面图和属性图，并通过 extensive experiments 在三个标准评估图上表现优异，特别地，在属性图学习方面，G-GNNs在Cora(84.31%)和Pubmed(80.95%)上建立了新的基准记录。
发现论文，激发创造
  • 强大的图神经网络是否必要？对图分类的解剖

    通过对图神经网络的线性化，本文将其拆成了基于图滤波和基于集合函数的两个部分，并发现在图滤波时采用线性结构，而在集合函数时采用非线性结构，得到了同样好的结果，从而提出了更简单且高效的建模方案。

    May, 2019

  • 图神经网络中节点特征

    本文分析了节点特征对图神经网络性能的影响，提出了新的特征初始化方法，使得图神经网络也能应用到无特征图中，并探讨了人造特征和真实特征的竞争表现。

    Nov, 2019

  • GPT-GNN：图神经网络的生成预训练

    本文介绍了一种名为 GPT-GNN 的框架，用于解决 Graph Neural Networks 训练问题，通过预训练一个能够自监督地学习到结构和语义属性的 GNN 模型，然后将其传输到 Downstream Tasks 中，从而显著提高了性能。

    Jun, 2020

  • 测量和优化图神经网络中图形信息的使用

    本文介绍了一种上下文环境下的图神经网络框架，提出了两个平滑度度量标准来衡量从图形数据中获得的信息的数量和质量，并设计了一种新的 GNN 模型 CS-GNN 来改善基于图形的信息的利用。结果表明，在不同类型的真实图中，CS-GNN 的性能优于现有模型。

    Jun, 2022

  • 灵活表示多模块图神经网络以实现更好的泛化

    本文研究了图神经网络的可扩展性和推广性，并提出了灵活的 GNNs 框架，通过多种节点更新函数和内部循环优化，使网络能够灵活适应新图并在多项推理任务中提高泛化能力。

    Sep, 2022

  • 学习图神经网络中的图网络

    本篇论文提出了一种新的图形神经网络 GL-GNN，通过学习关系的图形和选择重要数据特征以解决未知图形、节点具有嘈杂特征和图形含有噪声连接等三个问题，并在多个数据集上与基线方法进行对比， 能够选择重要特征和图形边缘。

    Oct, 2022

  • GNNs究竟学习了什么? 探究其表征

    本文研究了四种流行的图神经网络模型，探究了在没有节点属性可用的情况下这些模型所学习的节点表示中纯粹编码的图的哪些属性，并表明其中两个将所有节点嵌入同一特征向量中，而另外两个生成与输入图上的行走数量有关的表示。值得注意的是，在图的某一层 $k>1$，结构不相似的节点如果具有相同长度的行走次数，则可以具有相似的表示。我们在真实数据集上经验证实了我们的理论发现。

    Apr, 2023

  • 面向属性网络嵌入的协作图神经网络

    COllaborative graph Neural Networks (CONN)是一种专门用于属性网络嵌入的GNN体系结构，通过选择性地传播来自相邻节点和相关属性类别的消息，并通过交叉相关联合重构节点之间和节点到属性类别之间的交互来提高模型能力。实验表明CONN在真实网络上表现出色，超过了现有的嵌入算法。

    Jul, 2023

  • 无需GNN的图节点分类

    不需要训练或测试过程中使用图神经网络的全新节点分类方法，通过平滑性约束、伪标记迭代和邻域标签直方图的三个关键组成部分，可以在标准流行基准测试中达到业界最先进的准确性，如引文和共购买网络。

    Feb, 2024

  • 图分类与图神经网络：优化、表示与归纳偏差

    本研究针对图神经网络（GNNs）在表示与优化之间的差异提出了新的见解，指出现有的等价性研究忽视了优化问题。通过理论证明和实验验证，揭示了GNNs在图分类任务中存在的隐含归纳偏差，并展示了如何通过基于注意力的架构融入领域知识以更有效地识别一致子图。

    Aug, 2024