GraphPrompt: 将图神经网络的预训练和下游任务统一

WWWFeb, 2023

GraphPrompt: 将图神经网络的预训练和下游任务统一

GraphPrompt: Unifying Pre-Training and Downstream Tasks for Graph Neural Networks

Zemin Liu, Xingtong Yu, Yuan Fang, Xinming Zhang

TL;DR本文提出了一个新的在图上进行预训练和提示的框架 GraphPrompt，可以将预训练和下游任务统一到一个通用的任务模板中，并使用可学习的提示来以一种特定于任务的方式帮助下游任务定位来自预训练模型的最相关知识。在五个公共数据集上展开了广泛的实验来评估和分析 GraphPrompt。

Abstract

Graphs can model complex relationships between objects, enabling a myriad of Web applications such as online page/article classification and social recommendation. While graph neural networks(GNNs) have emerged as a powerful tool for →

graph neural networks pre-training prompting graph representation learning downstream tasks

发现论文，激发创造

广义图提示：走向图上预训练和下游任务的统一

GraphPrompt 是一种基于图的新型预训练和提示框架，通过统一预训练和下游任务，并使用可学习的提示来帮助下游任务以任务特定的方式定位来自预训练模型的最相关知识，进一步提升了预训练和提示方面的性能。

Nov, 2023

一体化：用于图神经网络的多任务提示

本文引入了提示方法来弥补预训练模型与各种图形任务之间的差距，并提出了一种新的用于图形模型的多任务提示方法。经过实验，结果表明我们的方法优越性。

Jul, 2023

多任务预训练和图上提示的 MultiGPrompt

在本文中，我们提出了 MultiGPrompt，一种新颖的多任务预训练和提示框架，用于利用多个预设任务获取更全面的预训练知识，并通过预设和全局提示指导少样本情境下的后续任务。我们进行了六个公共数据集上的大量实验来评估和分析 MultiGPrompt。

Nov, 2023

图形提示方法调查：技术、应用和挑战

通过基于结构化图形的触发方法，绕过传统的大规模标注数据集，提高深度学习的泛化能力，使预训练模型更具适应性。

Mar, 2023

多视图图对比学习的提示调优

我们提出了一种多视角图对比学习方法，并为其设计了提示调整方法，以缩小预训练和下游任务之间的差距。

Oct, 2023

HGPROMPT: 少样本提示学习中的齐次和非齐次图之间的桥接

本文提出了 HGPROMPT，一个新颖的预训练和提示框架，通过双模板设计来统一预训练和下游任务，以及同质和异质图，并通过对下游任务的双提示来帮助定位最相关的先验知识，以弥合由于特征变化和任务间的异质性差异导致的差距，并通过对三个公共数据集进行全面的实验评估和分析。

Dec, 2023

DyGPrompt：在动态图上学习特征和时间提示

本研究提出了一种针对动态图建模的新型预训练和提示框架 ——DyGPrompt，通过在任务目标和动态变化之间设立双重提示，以及利用节点和时间特征相互刻画的双重条件网络，来有效填补现有静态图的预训练模型在节点分析等下游任务中的缺口。通过在三个公共数据集上进行广泛实验评估和分析，证明了 DyGPrompt 的有效性。

May, 2024

SGL-PT: 具有图形提示调整的强大图形学习器

本文提出了一种名为 SGL-PT 的新框架，其中采用 “预训练、提示和预测” 的学习策略，通过采用有生成和对比自监导的结构图（SGL）和基于口头指导的方式，将预训练和微调统一到了一起，从而在图分类任务方面取得了较好的成果。

Feb, 2023

ULTRA-DP：将图预训练与多任务图双提示统一化

本文提出了一种基于图混合预训练的统一框架，通过提示机制将任务识别和位置识别注入图神经网络，从而有效减小语义差距，实现更好的性能提升。

Oct, 2023

图神经网络的提示调整

本研究探索了 Graph Prompt 作为预训练 GNN 模型适应下游任务的有效替代方法，通过对下游图形的图形级转换进行任务特定的图形提示来实现，从而实现与微调相当甚至在某些情况下获得显著性能提升。

Sep, 2022