Feb, 2024

ExGRG: 显式生成关系图用于自监督表示学习

PDF
TL;DR自我监督学习已成为一种强大的技术，通过利用未标记数据中的嵌入信号而不依赖昂贵的注释标签来预训练深度学习模型。本文介绍了一种新的非对比自我监督学习方法，以显式生成组合关系图（ExGRG）来克服图结构数据的语义改变和反直觉性增强的挑战，并展示其在图表示学习中的优越性。
self-supervised learningsslgraph-structured datacompositional relation graphgraph representation learning
发现论文，激发创造
  • 基于关系的自监督图学习

    本文提出了一种新颖的图表示学习方法 RGRL，它学习自图本身生成的关系信息，并通过全局和局部两个角度来考虑节点之间的关系，从而克服了以前对比和非对比方法的局限性，取得了最佳结果。

    Aug, 2022

  • 通过潜在图预测的自监督表示学习

    本文提出了一种基于潜在图预测的自我监督学习框架 LaGraph，通过其理论上的自我监督上界来学习预测未观察到的潜在图。在实验中得到了相对于其他相关方法在性能上的提高和对样本减少的鲁棒性提升的证明。

    Feb, 2022

  • 图像自监督学习：综述

    本文综述了基于自监督学习技术在图数据中的应用，提出了一个统一的数学框架，并将这些方法根据预文本任务的目标分为四类，并描述了在各个研究领域中的应用及所采用的数据集，评估基准，性能比较和开源图形 SSL 代码。

    Feb, 2021

  • 图上自监督学习：对比、生成或预测

    本文介绍了在图形数据上进行自监督学习的方法，并将其分为对比、生成和预测三种类型，同时对常用数据集、指标、算法进行了总结，并讨论了未来研究方向。

    May, 2021

  • HypeBoy: 超图上的生成式自我监督学习

    提出了一种针对超图的新型生成性自监督学习策略，通过超边填充的生成性自监督任务来学习复杂的超图拓扑，其中的方法 HypeBoy 在 11 个基准数据集上优于 16 种基线方法，学习了有效的通用超图表示。

    Mar, 2024

  • 使用弱数据增强进行关系自监督学习的 ReSSL 算法

    本文提出一种新的自监督学习方法 —— 关系自监督学习 (ReSSL) 框架，通过建模不同实例之间的关系来学习表示，采用成对相似度的锐化分布作为关系度量来匹配不同增强的特征向量，实验结果表明我们的方法在性能和训练效率方面显著优于先前的最先进算法。

    Jul, 2021

  • Graph Barlow Twins: 一种用于图的自监督表示学习框架

    提出一种基于自我监督学习的图形表示学习框架 (Graph Barlow Twins)，采用基于互相关的损失函数，不需要负样本，并且不依赖于非对称神经网络结构 (BGRL)，能够在短时间内实现与最佳自我监督方法和完全监督方法相媲美的结果。

    Jun, 2021

  • 基于图的半监督学习：综述

    本文着重阐述了基于图的半监督学习方法的各种变体及其概述、连接和发展方向。新的广义分类方法为图正则化和图嵌入方法提供了指导和最新的研究参考。

    Feb, 2021

  • 走向图对比学习：调查和进展

    在图数据上的深度学习、自监督学习、图对比学习和以数据为基础的图学习的实际应用是这篇综述的主要内容。

    May, 2024

  • 图上自监督学习：深入解析和新方向

    本文旨在探究无监督自我监督学习在图神经网络中的应用，通过多个实验任务深入理解 SSL 在 GNNs 中的表现，研究了该方法何时、为什么以及哪些策略下的效果最佳，提出了新的 SelfTask 方向来创建先进的预训练任务，并在各种真实世界数据集上实现了最先进的性能。

    Jun, 2020