使用内核对图神经网络进行预训练

Nov, 2018

使用内核对图神经网络进行预训练

Pre-training Graph Neural Networks with Kernels

Nicolò Navarin, Dinh V. Tran, Alessandro Sperduti

TL;DR本文提出了一种任务无关的预训练方法，使得图神经网络（GNNs）可以学习最先进的图内核函数所引发的表示，并在监督学习阶段对任务进行微调，该技术对采用的 GNNs 体系结构和内核函数是不可知的，并且在预实验结果中表现出了启示性的提高表现

Abstract

Many machine learning techniques have been proposed in the last few years to process data represented in graph-structured form. Graphs can be used to model several scenarios, from molecules and materials to RNA secondary structures. Several kernel functions have been defined on graphs

machine learning graph-structured data gnns pre-training predictive performance

发现论文，激发创造

基于图神经网络的高斯过程半监督学习核函数

本文介绍了如何将图神经网络中的归纳偏置引入高斯过程中，以优化其在图结构数据上的预测表现，并得出了一些有趣的成员和提出了一种适用于大规模数据后验推断的协方差矩阵的近似方法，通过这些基于图的协方差矩阵，与相应的图神经网络相比，具有相似的分类和回归性能以及计算时间上的优势。

Feb, 2023

KerGNNs: 基于图核的可解释图神经网络

本文提出了一种新的 GNN 框架，称为 “核图神经网络”，将图核函数集成到 GNN 的消息传递过程中，通过卷积滤波器使用可训练图作为图过滤器与子图相结合来更新节点嵌入，并显示 MPNN 可以视为 KerGNN 的特殊情况，该方法在多个图相关任务中表现出具有竞争力的性能，并提高了模型可解释性与传统 GNN 模型相比。

Jan, 2022

预训练图神经网络的策略

本文提出了一种针对图数据集的预训练策略和自监督方法，通过在节点和整个图级别上预训练表达力强的 GNN，以便 GNN 可以同时学习有用的局部和全局表示，并在多个图分类数据集上进行系统研究，发现我们的策略可避免负面转移并显着提高下游任务的泛化性能，最终达到了在分子性质预测和蛋白质功能预测方面的最先进性能。

May, 2019

自适应核图神经网络

该研究提出了一种新型的自适应核图神经网络框架（AKGNN），通过设计一种数据驱动的图内核学习机制来解决预定义核对于不同图之间间的泛化问题，同时通过参数化技巧和全局输出函数增强其表达能力，该方法在公认的基准数据集上展示了优异的性能表现。

Dec, 2021

预训练图神经网络用于通用结构特征提取

本文提出一种预训练框架，使用合成图纹理来获取通用图结构信息，提高了已训练模型在不同下游任务上的性能。

May, 2019

自监督与核图神经模型相遇：从架构到增强

我们改进了核图神经网络 (KGNNs) 的设计与学习，通过扩展其算法形式并引入自我监督方法，提出了一种更灵活且结构保持的图数据增强方法 (latent graph augmentation)，实验证明我们的模型在图分类任务上达到了与先进方法相媲美甚至优于其的竞争性性能。

Oct, 2023

图内核：现状与未来挑战

该论文综述了现有的图内核方法，包括其应用、软件和数据资源，以及现阶段最先进的图内核进行的实证比较，以解决图形相似度评估问题，进而在分类和回归模型中进行预测。