ICMLJun, 2022

通过不变量原理发现，激励图对比学习

PDF
TL;DR提出了一种新的无监督学习框架 RGCL，以图像实例判别的重点语义为目标，使用对抗的方式生成有机理的视图进行对比学习。在 MNIST-Superpixel 和 MUTAG 数据集上的实验结果表明，RGCL 具有较高的表现，有效地为后续任务的优化提供了强大的表示能力。
graph contrastive learninginvariant rationale discoveryrgclinstance-discriminationrationale-aware pre-training
发现论文，激发创造
  • 社区不变的图形对比学习

    图社群在图增强中的关键性优势以及基于图谱变化最大化的社群不变图对拓扑和特征增强的统一约束，提高模型的鲁棒性。

    May, 2024

  • 架构的重要性：揭示图对比学习中的隐式机制

    通过对图对比学习方法进行系统研究，我们发现了图对比学习方法中与视觉对比学习方法不同的一些共同现象，包括正样本对于图分类和采用特定归一化模块进行节点分类时并不是必需的，而且数据增强对于图对比学习的影响较小。通过揭示图神经网络的内在归纳偏差是如何在对比学习中起作用的，我们从理论上对图对比学习的上述有趣特性提供了深入的洞察。因此，在设计图对比学习方法时，倡导更多关注图学习的独特架构及其隐含的影响。

    Nov, 2023

  • 推荐系统的图增强

    提出了一种名为 GraphAug 的原则性框架，该框架引入了一个强大的数据增强器，生成去噪的自监督信号，增强推荐系统的性能。该框架通过自适应地调整对比视图生成，自动地提炼信息丰富的自监督信息。通过对真实数据集的严格实验评估，得出 GraphAug 模型相对于现有基线方法的卓越性能。

    Mar, 2024

  • 图变换器中的双视角交叉对比学习

    本文提出了一种名为双视角跨图对比学习（DC-GCL）的创新框架，通过增强正样本多样性和可靠性，提供了更多样化和可靠的训练输入，相较于传统的图对比学习方法，DC-GCL 能够在各种基准测试和任务中显著提高性能。

    Jun, 2024

  • 基于信息论的通用图形对比学习

    本文提出了一个名为 GCL-GE 的指标来衡量图对比学习 GCL 的一般化能力，并通过信息理论的角度理论上证明了一个互信息的上界。基于这个证明，我们设计了一个名为 InfoAdv 的 GCL 框架，该框架具有增强的一般化能力，在预训练任务适配和下游任务的一般化能力之间取得了平衡，并在各种基准测试中取得了最先进的性能。

    Nov, 2022

  • 因果视角下的图形对比不变性学习

    本文从因果关系的角度研究了图对比学习（Graph Contrastive Learning），发现传统的图对比学习由于含有非因果信息而不能很好地学习不变表示。为了解决这个问题并促使当前的图对比学习方法学习更好的不变表示，我们提出了一种新的图对比学习方法，通过引入谱图增强来模拟对非因果因素的干预，并设计了不变性目标和独立性目标来更好地捕捉因果因素。实验结果表明我们的方法在节点分类任务上的有效性。

    Jan, 2024

  • 图形对比学习的实证研究

    本文提出了一种利用 Graph Contrastive Learning 无人工标注学习图形表示的新范式，并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验，研究不同的 GCL 组件之间的相互作用，得出了一套有效 GCL 的一般特性与实现技巧。

    Sep, 2021

  • 图形对比学习与数据增强

    本研究提出了一种图形比较学习 (GraphCL) 框架，通过图形增强等多种方式对图形数据进行无监督学习来学习表示。结果表明，即使不使用复杂的 GNN 架构，GraphCL 框架也可以生成类似或更好的通用性、可转移性和鲁棒性的图形表示。

    Oct, 2020

  • 基于子图网络的对比学习

    本文提出了一种名为基于子图网络的对比学习的新框架，用于挖掘子结构与图表征之间的相互作用，可提高图像的非监督和迁移学习性能。

    Jun, 2023

  • 通过敌对性图增强改进图对比学习

    本文提出了一种基于对抗性图增强策略的自监督学习框架 adversarial-GCL，解决了传统图对比学习方法捕获冗余图特征的问题，实验证明该方法在无监督、迁移和半监督学习任务中均可达到较好的性能。

    Jun, 2021