本文提出了一种针对图数据集的预训练策略和自监督方法，通过在节点和整个图级别上预训练表达力强的 GNN，以便 GNN 可以同时学习有用的局部和全局表示，并在多个图分类数据集上进行系统研究，发现我们的策略可避免负面转移并显着提高下游任务的泛化性能，最终达到了在分子性质预测和蛋白质功能预测方面的最先进性能。

May, 2019

本文介绍了一种名为 GPT-GNN 的框架，用于解决 Graph Neural Networks 训练问题，通过预训练一个能够自监督地学习到结构和语义属性的 GNN 模型，然后将其传输到 Downstream Tasks 中，从而显著提高了性能。

Jun, 2020

该论文提出了一种名为 G-GNNs 的新型模型，通过无监督预训练获取节点的全局结构和属性特征，然后利用这些特征和原始网络属性，提出了一种 GNN 的并行框架以从这些特征中学习不同的方面。该模型的学习方法可应用于平面图和属性图，并通过 extensive experiments 在三个标准评估图上表现优异，特别地，在属性图学习方面，G-GNNs 在 Cora (84.31%) 和 Pubmed (80.95%) 上建立了新的基准记录。

Oct, 2019

本文提出了一种任务无关的预训练方法，使得图神经网络（GNNs）可以学习最先进的图内核函数所引发的表示，并在监督学习阶段对任务进行微调，该技术对采用的 GNNs 体系结构和内核函数是不可知的，并且在预实验结果中表现出了启示性的提高表现

Nov, 2018

图序列预训练框架 GSPT 利用统一的文本表示，在图领域中取得了显著的可转移性和实证成功。

Jun, 2024

利用基于片段的对比学习方法，在分子图预测性质方面取得了良好表现并提高了长程生物标准的预测效果。

Oct, 2023

本研究旨在通过研究梯度下降训练中神经网络中的特征学习理论中图卷积的作用，提供了两层图卷积网络与两层卷积神经网络之间的信号学习和噪声记忆的不同表征，发现图卷积显着增强了对手 CNN 的良性过拟合的范围，并且在梯度下降训练后， GNNs 和 MLPs 在特征学习和泛化能力方面存在重大差异，这一结论在我们的实证模拟中得到了进一步证实。

Jun, 2023

本文提出了基于图卷积神经网络的 Graph Learning Network 模型，用于解决社区检测、节点分类、链路预测等任务，并能够学习节点嵌入和结构预测函数。该模型能够递归地提高预测结果和嵌入质量。

May, 2019

本文提出了一种图结构学习方法 —— 图结构精炼方法 (GSR)，采用预训练 - 微调管道，通过多视角对比学习和概率估计相结合的方式，提高了图神经网络 (GNN) 的效能和扩展性。

Nov, 2022

该研究提出了基于自监督任务的图神经网络（GNN）的迁移学习新范式，其能够有效地将自监督任务作为辅助任务在微调阶段与目标任务结合起来，通过元学习来学习辅助任务的权重，对于多任务学习，预训练和微调均表现出色。

Jul, 2021