GCC: 图形对比编码用于图神经网络预训练

KDDJun, 2020

GCC: 图形对比编码用于图神经网络预训练

GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training

Jiezhong Qiu, Qibin Chen, Yuxiao Dong, Jing Zhang, Hongxia Yang...

TL;DR本论文提出了一个自监督的图神经网络预训练框架 Graph Contrastive Coding（GCC），通过子图实例区分学习网络的建构，利用对比学习增强图神经网络的内在和可迁移的结构表现，并在十个图数据集上展开实验，结果表明，GCC 对于包括节点分类、相似性搜索和图分类等三个图学习任务，展现出与特定任务和从零开始训练的对应模型相竞争的性能，同时显示了预训练和微调范式在图表示学习中有很大的潜力。

Abstract

graph representation learning has emerged as a powerful technique for addressing real-world problems. Various downstream graph learning tasks have benefited from its recent developments, such as node classification, similarity search, and graph classification. However, prior arts on gr

graph representation learning graph neural network pre-training subgraph instance discrimination transferable structural representations

发现论文，激发创造

图形对比聚类

本研究提出一种新的基于图的对比学习框架 ——Graph Contrastive Clustering（GCC），用于聚类任务，并利用该框架在六个常用数据集上进行了实验。实验结果表明，该方法在聚类问题上明显优于现有的最先进方法。

Apr, 2021

CPDG：一种用于动态图神经网络的对比预训练方法

本文提出了一种针对动态图神经网络的对比预训练方法 (CPDG)，通过灵活的结构 - 时间子图采样器和结构 - 时间对比预训练机制，解决了动态图神经网络在预训练中面临的泛化和长短期建模能力等挑战，并在大规模研究和工业动态图数据集上展开广泛实验，证明了 CPDG 在三种迁移设置下优于现有方法的动态图预训练能力。

Jul, 2023

基于相似度的正样本抽样用于图对比度预训练

本文提出通过选择训练集中已有的合法图形作为正例，结合基于特定领域相似度测量和分层图编码相似关系进行抽样的方法，解决了当前方法中正例缺失图信息甚至产生非法实例的问题，并且引入自适应节点级训练方法，提取五个关键词：图实例对比学习、图神经网络预训练、正例图实例、基于特定领域的成对相似度测量和自适应节点级预训练。

Jun, 2022

深度对比图学习与聚类导向引导

基于图卷积网络，提出了深度对比图学习模型（DCGL），用于一般数据聚类。该模型通过建立伪孪生网络，将自编码器与图卷积网络相结合，强调图结构和原始特征，并引入特征级对比学习来增强判别能力，利用样本与质心之间的关系作为聚类导向指引。然后，设计了双分支图学习机制来提取局部和全局结构关系，并在聚类级别对比指导下将其嵌入到统一的图中。在几个基准数据集上的实验结果表明，DCGL 相对于现有算法具有优越性。

Feb, 2024

预训练图神经网络用于通用结构特征提取

本文提出一种预训练框架，使用合成图纹理来获取通用图结构信息，提高了已训练模型在不同下游任务上的性能。

May, 2019

简单对比图聚类

提出一种名为 Simple Contrastive Graph Clustering (SCGC) 的算法，从网络架构、数据增强和目标函数三个方面改进现有方法，通过简单的低通滤波去噪操作和两个多层感知器 (MLPs) 作为骨干网络，通过构建 siamese 编码器和直接损坏节点嵌入来实现数据增强，设计了新的跨视图结构一致性目标函数来提高网络的判别能力，实验结果表明，在七个基准数据集上，该算法比最近的对比深度聚类竞争对手快至少七倍，并取得了显著的性能优势。

May, 2022

预训练图神经网络的策略

本文提出了一种针对图数据集的预训练策略和自监督方法，通过在节点和整个图级别上预训练表达力强的 GNN，以便 GNN 可以同时学习有用的局部和全局表示，并在多个图分类数据集上进行系统研究，发现我们的策略可避免负面转移并显着提高下游任务的泛化性能，最终达到了在分子性质预测和蛋白质功能预测方面的最先进性能。

May, 2019

图形对比学习与数据增强

本研究提出了一种图形比较学习 (GraphCL) 框架，通过图形增强等多种方式对图形数据进行无监督学习来学习表示。结果表明，即使不使用复杂的 GNN 架构，GraphCL 框架也可以生成类似或更好的通用性、可转移性和鲁棒性的图形表示。

Oct, 2020

基于局部结构的图形对比表示学习

我们提出了一种局部结构感知的图对比学习方法 (LS-GCL)，用于从多个视角建模节点的结构信息，并且通过多层对比损失函数来优化模型，实验结果表明我们的方法在节点分类和链接预测任务上均优于最先进的图表示学习方法。

Aug, 2023

GraphCL: 对图形表示的对比自监督学习

本文提出了一种名为 Graph Contrastive Learning（GraphCL）的一般框架，以自我监督的方式学习节点表示，通过最大化同一节点的本地子图的内在特征和连接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入，并使用对比学习损失来最大化它们之间的一致性，证明我们的方法在节点分类基准测试中显着优于无监督学习的现有技术。

Jul, 2020