StructComp: 在图对比学习中用结构压缩代替传播的训练

Dec, 2023

StructComp: 在图对比学习中用结构压缩代替传播的训练

StructComp: Substituting propagation with Structural Compression in Training Graph Contrastive Learning

Shengzhong Zhang, Wenjie Yang, Xinyuan Cao, Hongwei Zhang, Zengfeng Huang

TL;DR通过稀疏低秩近似方法，提出了一种名为 StructComp 的简单而有效的训练框架，用于解决图形对比学习的可扩展性问题，并在理论上证明了 StructComp 可以近似原始的对比损失，并改进了模型性能。

Abstract

graph contrastive learning (GCL) has become a powerful tool for learning graph data, but its scalability remains a significant challenge. In this work, we propose a simple yet effective training framework called

graph contrastive learning structural compression encoder training contrastive loss scalability

发现论文，激发创造

无监督图对比学习中的结构和语义全局知识获取

本文提出了一种基于结构和语义对比学习算法框架的简单神经网络 - S^3-CL，用于在无监督情况下学习表达具有全局结构和语义的节点特征，通过实验表明与现有的基于 GNN 的无监督 GCL 方法相比，S^3-CL 在不同的下游任务上可以获得优异的表现。

Feb, 2022

基于局部结构的图形对比表示学习

我们提出了一种局部结构感知的图对比学习方法 (LS-GCL)，用于从多个视角建模节点的结构信息，并且通过多层对比损失函数来优化模型，实验结果表明我们的方法在节点分类和链接预测任务上均优于最先进的图表示学习方法。

Aug, 2023

简单对比图聚类

提出一种名为 Simple Contrastive Graph Clustering (SCGC) 的算法，从网络架构、数据增强和目标函数三个方面改进现有方法，通过简单的低通滤波去噪操作和两个多层感知器 (MLPs) 作为骨干网络，通过构建 siamese 编码器和直接损坏节点嵌入来实现数据增强，设计了新的跨视图结构一致性目标函数来提高网络的判别能力，实验结果表明，在七个基准数据集上，该算法比最近的对比深度聚类竞争对手快至少七倍，并取得了显著的性能优势。

May, 2022

通过自表达图结构重建实现图数据压缩

通过解释性自表示图结构重构的方法，GCSR 在显式地融入原始图结构的过程中，通过重构可解释的自表示图结构，解决了在训练大规模图上的图神经网络时，节点特征优化、构建可解释图结构的问题。

Mar, 2024

无结构图压缩：从大规模图到压缩后的无图数据

本文提出了一种结构自由图压缩范式（SFGC），该方法将大规模图形压缩为小规模无图结构的节点集，并介绍了一种训练轨迹元匹配方案和图神经特征评分指标检验了该方法的优越性。

Jun, 2023

LightGCL: 简单而有效的图形对比学习用于推荐

本文提出了一种新的图对比学习范式 LightGCL，基于奇异值分解对图的对比增强进行单一约束结构的调整，在推荐系统领域具有显著的性能优势和鲁棒性。

Feb, 2023

GraphCL: 对图形表示的对比自监督学习

本文提出了一种名为 Graph Contrastive Learning（GraphCL）的一般框架，以自我监督的方式学习节点表示，通过最大化同一节点的本地子图的内在特征和连接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入，并使用对比学习损失来最大化它们之间的一致性，证明我们的方法在节点分类基准测试中显着优于无监督学习的现有技术。

Jul, 2020

利用潜在结构和数据增强来改善组合泛化能力

通过引入一种称为组成结构学习者的生成模型，该研究提出了一种更强大的数据重组方法，用于对先前的黑盒神经模型进行组成数据增强，并使得具有对自然语言变异和新颖元素组合的通用性的复杂语义分析任务的性能达到了新的最优状态。

Dec, 2021

图形对比学习的实证研究

本文提出了一种利用 Graph Contrastive Learning 无人工标注学习图形表示的新范式，并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验，研究不同的 GCL 组件之间的相互作用，得出了一套有效 GCL 的一般特性与实现技巧。

Sep, 2021

基于子图网络的对比学习

本文提出了一种名为基于子图网络的对比学习的新框架，用于挖掘子结构与图表征之间的相互作用，可提高图像的非监督和迁移学习性能。

Jun, 2023