Nov, 2022

基于信息论的通用图形对比学习

PDF
TL;DR本文提出了一个名为 GCL-GE 的指标来衡量图对比学习 GCL 的一般化能力，并通过信息理论的角度理论上证明了一个互信息的上界。基于这个证明，我们设计了一个名为 InfoAdv 的 GCL 框架，该框架具有增强的一般化能力，在预训练任务适配和下游任务的一般化能力之间取得了平衡，并在各种基准测试中取得了最先进的性能。
graph contrastive learningmutual informationgeneralization abilityinfoadv frameworkstate-of-the-art performance
发现论文，激发创造
  • 信息感知的图形对比学习

    提出了一种名为 InfoGCL 的基于信息瓶颈原则的信息感知图对比学习框架，与最新的图像对比学习方法统一，在节点和图分类基准数据集上进行了实证验证，取得了显著的效果优于现有技术。

    Oct, 2021

  • 图形对比学习的实证研究

    本文提出了一种利用 Graph Contrastive Learning 无人工标注学习图形表示的新范式，并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验，研究不同的 GCL 组件之间的相互作用，得出了一套有效 GCL 的一般特性与实现技巧。

    Sep, 2021

  • 因果视角下的图形对比不变性学习

    本文从因果关系的角度研究了图对比学习（Graph Contrastive Learning），发现传统的图对比学习由于含有非因果信息而不能很好地学习不变表示。为了解决这个问题并促使当前的图对比学习方法学习更好的不变表示，我们提出了一种新的图对比学习方法，通过引入谱图增强来模拟对非因果因素的干预，并设计了不变性目标和独立性目标来更好地捕捉因果因素。实验结果表明我们的方法在节点分类任务上的有效性。

    Jan, 2024

  • GraphCL: 对图形表示的对比自监督学习

    本文提出了一种名为 Graph Contrastive Learning（GraphCL）的一般框架，以自我监督的方式学习节点表示，通过最大化同一节点的本地子图的内在特征和连接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入，并使用对比学习损失来最大化它们之间的一致性，证明我们的方法在节点分类基准测试中显着优于无监督学习的现有技术。

    Jul, 2020

  • 分层拓扑同构专业嵌入的图形对比学习

    通过引入知识蒸馏，我们提出了一种新颖的层次化拓扑同构专家嵌入图对比学习方法，用于增强 GCL 模型学习层次化拓扑同构专业知识，包括图层和子图层。与传统的 GCL 方法相比，我们的方法在贝叶斯分类错误上获得更紧的上界，并在真实世界基准测试中表现出了超越候选 GCL 方法的性能优势。

    Dec, 2023

  • TopoGCL: 拓扑图对比学习

    图对比学习在图神经网络的强大优势下充分利用丰富的无标签信息来学习图的特征表示，然而现有的方法忽视了高阶图子结构的重要潜在信息，本研究通过引入拓扑不变性和扩展持久性的概念来解决这个限制，提出了一种新的对比学习模式并引入了扩展持久性景观，实验结果表明 TopoGCL 模型在无监督图分类中取得了显著的性能提升。

    Jun, 2024

  • 重新思考和扩大图形对比学习：一种具有群体歧视能力的极其高效的方法

    提出了一种新的基于 Group Discrimination 的方法 Graph Group Discrimination (GGD)，以简单的二元交叉熵损失代替相似性计算直接区分两组节点样本，相比于 GCL 方法，GGD 具有更高的计算效率和更少的训练轮数，并在八个数据集上表现优于现有的自监督方法。

    Jun, 2022

  • ID-MixGCL: 图对比学习中的身份混淆

    通过同时调整图形和对比损失标签，我们提出了一种名为 ID-MixGCL 的模型来捕捉未标记的图形的细节表示，其改善了 Cora，IMDB-B 和 IMDB-M 数据集上图形和节点分类任务的表现。

    Apr, 2023

  • 图形对比学习方法的对抗鲁棒性

    通过对图结构的适应性敌对攻击评估节点和图分类任务，本研究介绍了一个全面的 GCL 模型鲁棒性评估协议，旨在探索 GCL 方法的鲁棒性，并为潜在的未来研究方向开辟新途径。

    Nov, 2023

  • 通过敌对性图增强改进图对比学习

    本文提出了一种基于对抗性图增强策略的自监督学习框架 adversarial-GCL，解决了传统图对比学习方法捕获冗余图特征的问题，实验证明该方法在无监督、迁移和半监督学习任务中均可达到较好的性能。

    Jun, 2021