Jun, 2024

GraphAlign：通过特征对齐在多个图上预训练一个图神经网络

PDF
TL;DR通过对具有丰富节点特征的各类图进行预训练，并将预训练好的图神经网络应用于未见过的图，GraphAlign 方法有效地解决了图自监督学习中不同领域图之间特征差异的挑战，通过特征编码、规范化和特征专家模块的混合对齐策略实现了特征分布的统一，从而提升了在同领域和跨领域图上的性能优势。
graph self-supervised learninggraph neural networkgraphalignfeature discrepancyalignment strategies
发现论文，激发创造
  • 预训练图神经网络用于通用结构特征提取

    本文提出一种预训练框架，使用合成图纹理来获取通用图结构信息，提高了已训练模型在不同下游任务上的性能。

    May, 2019

  • 自监督学习的图神经网络：统一综述

    本论文介绍了自监督学习在图神经网络上的应用，将其方法分为对比模型和预测模型并提供统一的框架，在 SSL 方法和数据集上提供了概述和标准化的测试平台。

    Feb, 2021

  • 图上自监督学习：深入解析和新方向

    本文旨在探究无监督自我监督学习在图神经网络中的应用，通过多个实验任务深入理解 SSL 在 GNNs 中的表现，研究了该方法何时、为什么以及哪些策略下的效果最佳，提出了新的 SelfTask 方向来创建先进的预训练任务，并在各种真实世界数据集上实现了最先进的性能。

    Jun, 2020

  • GANN: 用于半监督学习的图形对齐神经网络

    本文提出了一种简单而有效的 GNN 体系结构，名为 GANN，采用三个新型的图信息对齐规则，以解决标记数据有限导致 over-smoothing 的问题，并在半监督图节点分类任务中拥有优于竞争对手的表现。

    Mar, 2023

  • GraphGPT: 大型语言模型的图指令调优

    我们的研究旨在提高图模型在具有挑战性的零样本学习场景中的泛化能力，通过发展面向图结构知识的大型语言模型（LLMs），并利用图指示调整范式来与图结构知识建立联系，探索自我监督的图结构信号和任务特定的图指示，从而引导 LLMs 在理解复杂的图结构和改善在不同下游任务之间的适应性。我们的框架在监督和零样本图学习任务上进行评估，展示了优越的泛化能力，并超过了最先进的基准模型。

    Oct, 2023

  • 预训练图神经网络的策略

    本文提出了一种针对图数据集的预训练策略和自监督方法，通过在节点和整个图级别上预训练表达力强的 GNN，以便 GNN 可以同时学习有用的局部和全局表示，并在多个图分类数据集上进行系统研究，发现我们的策略可避免负面转移并显着提高下游任务的泛化性能，最终达到了在分子性质预测和蛋白质功能预测方面的最先进性能。

    May, 2019

  • 走向图对比学习：调查和进展

    在图数据上的深度学习、自监督学习、图对比学习和以数据为基础的图学习的实际应用是这篇综述的主要内容。

    May, 2024

  • 带有特征和邻接矩阵对齐的强健图结构学习

    本研究提出了一种用于学习图结构的新型正则化方法，该方法采用节点级别雷德马赫复杂度的下界来对齐特征信息和图信息，同时结合稀疏降维使用低维节点特征，实现了对受噪声干扰的图结构的精确处理，并在真实世界数据集上进行了广泛实验。

    Jul, 2023

  • 多任务自监督图神经网络实现更强的任务泛化

    该研究介绍了一种名为 PARETOGNN 的自监督多任务学习框架，利用多个不同的哲学观点的预文本任务监督自我学习，从而在进行节点表示学习和其他后续任务时产生最佳绩效。

    Oct, 2022

  • 图像自监督学习：综述

    本文综述了基于自监督学习技术在图数据中的应用，提出了一个统一的数学框架，并将这些方法根据预文本任务的目标分为四类，并描述了在各个研究领域中的应用及所采用的数据集，评估基准，性能比较和开源图形 SSL 代码。

    Feb, 2021