多任务预训练和图上提示的 MultiGPrompt

Nov, 2023

多任务预训练和图上提示的 MultiGPrompt

MultiGPrompt for Multi-Task Pre-Training and Prompting on Graphs

Xingtong Yu, Chang Zhou, Yuan Fang, Xinming Zhang

TL;DR在本文中，我们提出了 MultiGPrompt，一种新颖的多任务预训练和提示框架，用于利用多个预设任务获取更全面的预训练知识，并通过预设和全局提示指导少样本情境下的后续任务。我们进行了六个公共数据集上的大量实验来评估和分析 MultiGPrompt。

Abstract

Graphs can inherently model interconnected objects on the Web, thereby facilitating a series of Web applications, such as web analyzing and content recommendation. Recently, graph neural networks (GNNs) have emerged as a mainstream technique for graph representation learning. However,

graph neural networks pre-training prompt-based learning multi-task framework few-shot settings

发现论文，激发创造

一体化：用于图神经网络的多任务提示

本文引入了提示方法来弥补预训练模型与各种图形任务之间的差距，并提出了一种新的用于图形模型的多任务提示方法。经过实验，结果表明我们的方法优越性。

Jul, 2023

GraphPrompt: 将图神经网络的预训练和下游任务统一

本文提出了一个新的在图上进行预训练和提示的框架 GraphPrompt，可以将预训练和下游任务统一到一个通用的任务模板中，并使用可学习的提示来以一种特定于任务的方式帮助下游任务定位来自预训练模型的最相关知识。在五个公共数据集上展开了广泛的实验来评估和分析 GraphPrompt。

Feb, 2023

广义图提示：走向图上预训练和下游任务的统一

GraphPrompt 是一种基于图的新型预训练和提示框架，通过统一预训练和下游任务，并使用可学习的提示来帮助下游任务以任务特定的方式定位来自预训练模型的最相关知识，进一步提升了预训练和提示方面的性能。

Nov, 2023

ULTRA-DP：将图预训练与多任务图双提示统一化

本文提出了一种基于图混合预训练的统一框架，通过提示机制将任务识别和位置识别注入图神经网络，从而有效减小语义差距，实现更好的性能提升。

Oct, 2023

图形提示方法调查：技术、应用和挑战

通过基于结构化图形的触发方法，绕过传统的大规模标注数据集，提高深度学习的泛化能力，使预训练模型更具适应性。

Mar, 2023

一体化：图神经网络的多任务提示（扩展摘要）

该研究论文介绍了一种创新的方法来解决预训练图模型与各种应用任务之间的差距问题，借鉴了自然语言处理中提示学习的成功。我们提出了一种适用于图的多任务提示方法，通过统一图和语言提示格式，使自然语言处理的提示策略能够适用于图任务，并通过分析图应用的任务空间，对问题进行重构以适应图级任务，并应用元学习来改善多任务的提示初始化。实验证明了我们的方法在不同的图任务中提高了模型性能。此外，在本文的扩展摘要中，我们从更大的视角讨论图提示，并提供了一些最新的相关工作。

Mar, 2024

HGPROMPT: 少样本提示学习中的齐次和非齐次图之间的桥接

本文提出了 HGPROMPT，一个新颖的预训练和提示框架，通过双模板设计来统一预训练和下游任务，以及同质和异质图，并通过对下游任务的双提示来帮助定位最相关的先验知识，以弥合由于特征变化和任务间的异质性差异导致的差距，并通过对三个公共数据集进行全面的实验评估和分析。

Dec, 2023

HetGPT: 利用预训练异构图神经网络的提示调节能力

提出了 HetGPT，一种通用的后训练提示框架，用于改善预训练的异构图神经网络（HGNNs）的预测性能，并通过多视图邻域聚合机制捕捉异构图中的复杂邻域结构。在三个基准数据集上进行的大量实验证明了 HetGPT 在半监督节点分类方面改进了最先进的 HGNNs 的性能。

Oct, 2023

DyGPrompt：在动态图上学习特征和时间提示

本研究提出了一种针对动态图建模的新型预训练和提示框架 ——DyGPrompt，通过在任务目标和动态变化之间设立双重提示，以及利用节点和时间特征相互刻画的双重条件网络，来有效填补现有静态图的预训练模型在节点分析等下游任务中的缺口。通过在三个公共数据集上进行广泛实验评估和分析，证明了 DyGPrompt 的有效性。

May, 2024

多视图图对比学习的提示调优

我们提出了一种多视角图对比学习方法，并为其设计了提示调整方法，以缩小预训练和下游任务之间的差距。

Oct, 2023