通过对图对比学习方法进行系统研究,我们发现了图对比学习方法中与视觉对比学习方法不同的一些共同现象,包括正样本对于图分类和采用特定归一化模块进行节点分类时并不是必需的,而且数据增强对于图对比学习的影响较小。通过揭示图神经网络的内在归纳偏差是如何在对比学习中起作用的,我们从理论上对图对比学习的上述有趣特性提供了深入的洞察。因此,在设计图对比学习方法时,倡导更多关注图学习的独特架构及其隐含的影响。
Nov, 2023
图对比学习在图神经网络的强大优势下充分利用丰富的无标签信息来学习图的特征表示,然而现有的方法忽视了高阶图子结构的重要潜在信息,本研究通过引入拓扑不变性和扩展持久性的概念来解决这个限制,提出了一种新的对比学习模式并引入了扩展持久性景观,实验结果表明 TopoGCL 模型在无监督图分类中取得了显著的性能提升。
Jun, 2024
在图数据上的深度学习、自监督学习、图对比学习和以数据为基础的图学习的实际应用是这篇综述的主要内容。
May, 2024
通过对图结构的适应性敌对攻击评估节点和图分类任务,本研究介绍了一个全面的 GCL 模型鲁棒性评估协议,旨在探索 GCL 方法的鲁棒性,并为潜在的未来研究方向开辟新途径。
本文提出了一个名为 GCL-GE 的指标来衡量图对比学习 GCL 的一般化能力,并通过信息理论的角度理论上证明了一个互信息的上界。基于这个证明,我们设计了一个名为 InfoAdv 的 GCL 框架,该框架具有增强的一般化能力,在预训练任务适配和下游任务的一般化能力之间取得了平衡,并在各种基准测试中取得了最先进的性能。
Nov, 2022
本文提出了一种新的图对比学习范式 LightGCL,基于奇异值分解对图的对比增强进行单一约束结构的调整,在推荐系统领域具有显著的性能优势和鲁棒性。
Feb, 2023
提出了一种创新的框架:对抗课程图对比学习(ACGCL),利用成对增强技术生成可控相似性的图级正负样本,并通过子图对比学习鉴别其中的有效图模式。ACGCL 框架内还设计了一种新颖的对抗课程训练方法,通过逐渐增加样本难度来促进渐进学习。最后,通过对六个知名基准数据集进行全面评估,ACGCL 显著超过一组最先进的基准。
Feb, 2024
本文提出了一种名为基于子图网络的对比学习的新框架,用于挖掘子结构与图表征之间的相互作用,可提高图像的非监督和迁移学习性能。
Jun, 2023
我们的研究全面审视了自我监督学习方法的缺点,并提供了关于超参数选择和下游任务评估对图对比学习方法的影响的新观点。此外,我们引入了一个改进的评估框架,旨在更准确地评估图对比学习方法的有效性、一致性和整体能力。
本文提出了一种新的图形无监督学习方法,名为 Graph Soft-Contrastive Learning (GSCL),它能够通过邻域排序进行自我监督学习,而无需依赖于二元对比设置,并且还提出了 GSCL 所需的成对和列表式门控排名 infoNCE 损失函数,以保留邻域中的相对排序关系。
Sep, 2022