Jan, 2024

因果视角下的图形对比不变性学习

PDF
TL;DR本文从因果关系的角度研究了图对比学习（Graph Contrastive Learning），发现传统的图对比学习由于含有非因果信息而不能很好地学习不变表示。为了解决这个问题并促使当前的图对比学习方法学习更好的不变表示，我们提出了一种新的图对比学习方法，通过引入谱图增强来模拟对非因果因素的干预，并设计了不变性目标和独立性目标来更好地捕捉因果因素。实验结果表明我们的方法在节点分类任务上的有效性。
graph contrastive learningself-supervised learninginvariant representationsstructural causal modelspectral graph augmentation
发现论文，激发创造
  • 社区不变的图形对比学习

    图社群在图增强中的关键性优势以及基于图谱变化最大化的社群不变图对拓扑和特征增强的统一约束，提高模型的鲁棒性。

    May, 2024

  • 图上自监督学习的谱增强

    本研究提出了一种基于光谱扩增的拓扑扩充方法，可以指导 GCL 捕获特征的不变性，实现了自监督表征学习，并带来了更好的泛化能力和抵御对抗性攻击的鲁棒性。

    Oct, 2022

  • 基于信息论的通用图形对比学习

    本文提出了一个名为 GCL-GE 的指标来衡量图对比学习 GCL 的一般化能力，并通过信息理论的角度理论上证明了一个互信息的上界。基于这个证明，我们设计了一个名为 InfoAdv 的 GCL 框架，该框架具有增强的一般化能力，在预训练任务适配和下游任务的一般化能力之间取得了平衡，并在各种基准测试中取得了最先进的性能。

    Nov, 2022

  • 图形对比学习的实证研究

    本文提出了一种利用 Graph Contrastive Learning 无人工标注学习图形表示的新范式，并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验，研究不同的 GCL 组件之间的相互作用，得出了一套有效 GCL 的一般特性与实现技巧。

    Sep, 2021

  • 跨视图图形一致性学习的不变图表示

    本文提出了一种跨视图图一致性学习（CGCL）方法，通过双向图结构增强方案从不完整的图结构派生出两个互补的增强视图，并利用 CGCL 模型学习不变的图表示，以实现链路预测，并通过理论分析和实验证明所提出的 CGCL 方法在图数据集上取得了竞争性结果。

    Nov, 2023

  • 信息感知的图形对比学习

    提出了一种名为 InfoGCL 的基于信息瓶颈原则的信息感知图对比学习框架，与最新的图像对比学习方法统一，在节点和图分类基准数据集上进行了实证验证，取得了显著的效果优于现有技术。

    Oct, 2021

  • TopoGCL: 拓扑图对比学习

    图对比学习在图神经网络的强大优势下充分利用丰富的无标签信息来学习图的特征表示，然而现有的方法忽视了高阶图子结构的重要潜在信息，本研究通过引入拓扑不变性和扩展持久性的概念来解决这个限制，提出了一种新的对比学习模式并引入了扩展持久性景观，实验结果表明 TopoGCL 模型在无监督图分类中取得了显著的性能提升。

    Jun, 2024

  • 架构的重要性：揭示图对比学习中的隐式机制

    通过对图对比学习方法进行系统研究，我们发现了图对比学习方法中与视觉对比学习方法不同的一些共同现象，包括正样本对于图分类和采用特定归一化模块进行节点分类时并不是必需的，而且数据增强对于图对比学习的影响较小。通过揭示图神经网络的内在归纳偏差是如何在对比学习中起作用的，我们从理论上对图对比学习的上述有趣特性提供了深入的洞察。因此，在设计图对比学习方法时，倡导更多关注图学习的独特架构及其隐含的影响。

    Nov, 2023

  • GraphCL: 对图形表示的对比自监督学习

    本文提出了一种名为 Graph Contrastive Learning（GraphCL）的一般框架，以自我监督的方式学习节点表示，通过最大化同一节点的本地子图的内在特征和连接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入，并使用对比学习损失来最大化它们之间的一致性，证明我们的方法在节点分类基准测试中显着优于无监督学习的现有技术。

    Jul, 2020

  • 自适应增强的图形对比学习

    本文提出了一种新的自适应增强方法，通过设计基于节点中心性和节点属性的增强策略来保留图的内在结构和属性信息，并验证此方法在节点分类任务中优于现有方法和监督学习模型。

    Oct, 2020