Oct, 2023

我们是否真的需要用于图表示的对比学习？

HTML
PDF
TL;DR对比学习在图学习领域吸引了大量研究兴趣，现有的图对比学习方法需要大规模和多样化的负样本来确保嵌入的质量，但这样会引入虚假的负样本，同时增加了计算负担和时间复杂度，为解决这些问题，提出了一种简单而有效的模型GraphRank，通过引入基于排名的学习来测量相似度得分，成功地缓解了虚假负样本问题，并将时间复杂度从O(N^2)降低到O(N)，并在多个图任务上展开了广泛实验，证明GraphRank在各种任务中表现优异。
发现论文，激发创造
  • GraphCL: 对图形表示的对比自监督学习

    本文提出了一种名为 Graph Contrastive Learning（GraphCL）的一般框架，以自我监督的方式学习节点表示，通过最大化同一节点的本地子图的内在特征和连接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入，并使用对比学习损失来最大化它们之间的一致性，证明我们的方法在节点分类基准测试中显着优于无监督学习的现有技术。

    Jul, 2020

  • 通过对比正则化提高图表示学习

    通过理论分析和实验，本文提出一种轻量级正则化项，旨在避免节点表示的高规范化和高变异性以提高泛化性能，从而在不同的节点相似性定义方面显着改善表示质量并超越现有最佳方法。

    Jan, 2021

  • 图形对比学习的实证研究

    本文提出了一种利用Graph Contrastive Learning无人工标注学习图形表示的新范式，并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验，研究不同的GCL组件之间的相互作用，得出了一套有效GCL的一般特性与实现技巧。

    Sep, 2021

  • 无监督图对比学习中的结构和语义全局知识获取

    本文提出了一种基于结构和语义对比学习算法框架的简单神经网络-S^3-CL，用于在无监督情况下学习表达具有全局结构和语义的节点特征，通过实验表明与现有的基于GNN的无监督GCL方法相比，S^3-CL在不同的下游任务上可以获得优异的表现。

    Feb, 2022

  • 基于邻域排序的图像软对比学习

    本文提出了一种新的图形无监督学习方法，名为 Graph Soft-Contrastive Learning (GSCL)，它能够通过邻域排序进行自我监督学习，而无需依赖于二元对比设置，并且还提出了 GSCL 所需的成对和列表式门控排名 infoNCE 损失函数，以保留邻域中的相对排序关系。

    Sep, 2022

  • 图对比学习的可证明训练

    通过提出节点紧凑度作为度量，证明了基于图对比学习在训练过程中存在不平衡问题，并推导了节点紧凑度的理论形式，提出了一种能够更好地遵循基于图对比学习原则的 PrOvable Training (POT) 方法，在多个基准测试中持续提升了现有的基于图对比学习方法。

    Sep, 2023

  • 简洁且非对称的图形对比学习无需数据增强

    通过考虑相邻节点的非对称视图，本文提出了一种简单的算法——用于图的非对称对比学习（GraphACL），它不依赖图扩充和同质性假设，在同质性和异质性图上具有优于最新的图对比学习和自监督学习方法的性能。

    Oct, 2023

  • 重新思考和简化引导式图潜变量

    本文介绍了一种基于实例级去相关视角的简洁而有效的图对比学习框架（SGCL），在各种图基准测试中展现出与更少参数，更低时间和空间成本以及显著的收敛加速相比具有竞争性的性能。

    Dec, 2023

  • 平滑图对比学习中的无缝相似性融合

    本文介绍了一种平滑图对比学习模型（SGCL），它利用了扩充图的几何结构来在对比损失中注入与正负节点对相关的接近信息，从而显著规范化学习过程，并通过针对负样本的三种不同平滑技术调整对比损失中节点对的惩罚，以提高在大规模图上的可扩展性，通过在各种基准测试中的大量实验证明了该框架相对于最近的基准方法的优越性。

    Feb, 2024

  • 软负样本的多重图对比学习

    本研究解决了现有图对比学习方法在跨尺度一致性中信息丢失和特征干扰的问题。提出的MUX-GCL通过利用多重表示和位置亲和度对负样本进行校正，显著提高了学习效果。实验结果显示，该方法在多个公共数据集上取得了领先的性能，具有重要的理论和实际应用价值。

    Sep, 2024