HomoGCL: 重塑图形对比学习中的同质性
通过考虑相邻节点的非对称视图,本文提出了一种简单的算法 —— 用于图的非对称对比学习(GraphACL),它不依赖图扩充和同质性假设,在同质性和异质性图上具有优于最新的图对比学习和自监督学习方法的性能。
Oct, 2023
本文提出了一种新的图形无监督学习方法,名为 Graph Soft-Contrastive Learning (GSCL),它能够通过邻域排序进行自我监督学习,而无需依赖于二元对比设置,并且还提出了 GSCL 所需的成对和列表式门控排名 infoNCE 损失函数,以保留邻域中的相对排序关系。
Sep, 2022
我们研究了无监督图对比学习(GCL)在结构攻击下的对抗性鲁棒性。通过全面的实证和理论分析,我们展示了现有攻击如何以及为何降低了 GCL 的性能。受到分析结果的启发,我们提出了一种鲁棒的 GCL 框架,该框架集成了基于同质性驱动的消毒视图,并可以与对比学习一起学习。然而,这也带来了一个关键挑战,即消毒目标的不可微性。为了解决这个挑战,我们提出了一系列技术以实现基于梯度的端到端鲁棒 GCL。此外,我们开发了一种完全无监督的超参数调整方法,与先前的方法不同,它不需要节点标签的知识。我们进行了大量实验证明了我们提出的 GCHS 模型(具有基于同质性驱动的消毒视图的图对比学习)在面向 GCL 的两种先进结构攻击上始终优于所有现有基准的生成节点嵌入质量以及两个重要下游任务的性能。
Jul, 2023
通过引入知识蒸馏,我们提出了一种新颖的层次化拓扑同构专家嵌入图对比学习方法,用于增强 GCL 模型学习层次化拓扑同构专业知识,包括图层和子图层。与传统的 GCL 方法相比,我们的方法在贝叶斯分类错误上获得更紧的上界,并在真实世界基准测试中表现出了超越候选 GCL 方法的性能优势。
Dec, 2023
本文提出了一种名为 Graph Contrastive Learning(GraphCL)的一般框架,以自我监督的方式学习节点表示,通过最大化同一节点的本地子图的内在特征和连接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入,并使用对比学习损失来最大化它们之间的一致性,证明我们的方法在节点分类基准测试中显着优于无监督学习的现有技术。
Jul, 2020
通过对图对比学习方法进行系统研究,我们发现了图对比学习方法中与视觉对比学习方法不同的一些共同现象,包括正样本对于图分类和采用特定归一化模块进行节点分类时并不是必需的,而且数据增强对于图对比学习的影响较小。通过揭示图神经网络的内在归纳偏差是如何在对比学习中起作用的,我们从理论上对图对比学习的上述有趣特性提供了深入的洞察。因此,在设计图对比学习方法时,倡导更多关注图学习的独特架构及其隐含的影响。
Nov, 2023
本文提出了一种利用 Graph Contrastive Learning 无人工标注学习图形表示的新范式,并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验,研究不同的 GCL 组件之间的相互作用,得出了一套有效 GCL 的一般特性与实现技巧。
Sep, 2021
为了解决 GCL 方法中的 community semantics 问题,我们提出了一种称为 CSGCL 的 algorithmic framework,并使用两种新的图扩充方法和动态的 'Team-up' 对比学习策略,传播 community strength,实现了对图表示的有效性和通用性的验证。
May, 2023
本文提出了一种新的图对比学习范式 LightGCL,基于奇异值分解对图的对比增强进行单一约束结构的调整,在推荐系统领域具有显著的性能优势和鲁棒性。
Feb, 2023
本文介绍了一种平滑图对比学习模型(SGCL),它利用了扩充图的几何结构来在对比损失中注入与正负节点对相关的接近信息,从而显著规范化学习过程,并通过针对负样本的三种不同平滑技术调整对比损失中节点对的惩罚,以提高在大规模图上的可扩展性,通过在各种基准测试中的大量实验证明了该框架相对于最近的基准方法的优越性。
Feb, 2024