Nov, 2023

架构的重要性：揭示图对比学习中的隐式机制

PDF
TL;DR通过对图对比学习方法进行系统研究，我们发现了图对比学习方法中与视觉对比学习方法不同的一些共同现象，包括正样本对于图分类和采用特定归一化模块进行节点分类时并不是必需的，而且数据增强对于图对比学习的影响较小。通过揭示图神经网络的内在归纳偏差是如何在对比学习中起作用的，我们从理论上对图对比学习的上述有趣特性提供了深入的洞察。因此，在设计图对比学习方法时，倡导更多关注图学习的独特架构及其隐含的影响。
contrastive learningvisual representation learninggraph contrastive learninggraph classificationnode classification
发现论文，激发创造
  • 图形对比学习的实证研究

    本文提出了一种利用 Graph Contrastive Learning 无人工标注学习图形表示的新范式，并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验，研究不同的 GCL 组件之间的相互作用，得出了一套有效 GCL 的一般特性与实现技巧。

    Sep, 2021

  • 对抗式课程图对比学习与配对数据增强

    提出了一种创新的框架：对抗课程图对比学习（ACGCL），利用成对增强技术生成可控相似性的图级正负样本，并通过子图对比学习鉴别其中的有效图模式。ACGCL 框架内还设计了一种新颖的对抗课程训练方法，通过逐渐增加样本难度来促进渐进学习。最后，通过对六个知名基准数据集进行全面评估，ACGCL 显著超过一组最先进的基准。

    Feb, 2024

  • LightGCL: 简单而有效的图形对比学习用于推荐

    本文提出了一种新的图对比学习范式 LightGCL，基于奇异值分解对图的对比增强进行单一约束结构的调整，在推荐系统领域具有显著的性能优势和鲁棒性。

    Feb, 2023

  • 图形对比学习方法的对抗鲁棒性

    通过对图结构的适应性敌对攻击评估节点和图分类任务，本研究介绍了一个全面的 GCL 模型鲁棒性评估协议，旨在探索 GCL 方法的鲁棒性，并为潜在的未来研究方向开辟新途径。

    Nov, 2023

  • 因果视角下的图形对比不变性学习

    本文从因果关系的角度研究了图对比学习（Graph Contrastive Learning），发现传统的图对比学习由于含有非因果信息而不能很好地学习不变表示。为了解决这个问题并促使当前的图对比学习方法学习更好的不变表示，我们提出了一种新的图对比学习方法，通过引入谱图增强来模拟对非因果因素的干预，并设计了不变性目标和独立性目标来更好地捕捉因果因素。实验结果表明我们的方法在节点分类任务上的有效性。

    Jan, 2024

  • TopoGCL: 拓扑图对比学习

    图对比学习在图神经网络的强大优势下充分利用丰富的无标签信息来学习图的特征表示，然而现有的方法忽视了高阶图子结构的重要潜在信息，本研究通过引入拓扑不变性和扩展持久性的概念来解决这个限制，提出了一种新的对比学习模式并引入了扩展持久性景观，实验结果表明 TopoGCL 模型在无监督图分类中取得了显著的性能提升。

    Jun, 2024

  • 基于邻域排序的图像软对比学习

    本文提出了一种新的图形无监督学习方法，名为 Graph Soft-Contrastive Learning (GSCL)，它能够通过邻域排序进行自我监督学习，而无需依赖于二元对比设置，并且还提出了 GSCL 所需的成对和列表式门控排名 infoNCE 损失函数，以保留邻域中的相对排序关系。

    Sep, 2022

  • 图形对比学习与数据增强

    本研究提出了一种图形比较学习 (GraphCL) 框架，通过图形增强等多种方式对图形数据进行无监督学习来学习表示。结果表明，即使不使用复杂的 GNN 架构，GraphCL 框架也可以生成类似或更好的通用性、可转移性和鲁棒性的图形表示。

    Oct, 2020

  • 走向图对比学习：调查和进展

    在图数据上的深度学习、自监督学习、图对比学习和以数据为基础的图学习的实际应用是这篇综述的主要内容。

    May, 2024

  • 我们是否真的需要用于图表示的对比学习？

    对比学习在图学习领域吸引了大量研究兴趣，现有的图对比学习方法需要大规模和多样化的负样本来确保嵌入的质量，但这样会引入虚假的负样本，同时增加了计算负担和时间复杂度，为解决这些问题，提出了一种简单而有效的模型 GraphRank，通过引入基于排名的学习来测量相似度得分，成功地缓解了虚假负样本问题，并将时间复杂度从 O (N^2) 降低到 O (N)，并在多个图任务上展开了广泛实验，证明 GraphRank 在各种任务中表现优异。

    Oct, 2023