张量融合多视角图对比学习
本论文提出了一个自监督的图神经网络预训练框架Graph Contrastive Coding(GCC),通过子图实例区分学习网络的建构,利用对比学习增强图神经网络的内在和可迁移的结构表现,并在十个图数据集上展开实验,结果表明,GCC对于包括节点分类、相似性搜索和图分类等三个图学习任务,展现出与特定任务和从零开始训练的对应模型相竞争的性能,同时显示了预训练和微调范式在图表示学习中有很大的潜力。
Jun, 2020
本文提出了一种名为 Graph Contrastive Learning(GraphCL)的一般框架,以自我监督的方式学习节点表示,通过最大化同一节点的本地子图的内在特征和连接结构的两个随机扰动版本的表示之间的相似性来学习节点嵌入,并使用对比学习损失来最大化它们之间的一致性,证明我们的方法在节点分类基准测试中显着优于无监督学习的现有技术。
Jul, 2020
本文提出了一种利用Graph Contrastive Learning无人工标注学习图形表示的新范式,并通过对一系列基准任务和各种领域的数据集进行广泛、可控的实验,研究不同的GCL组件之间的相互作用,得出了一套有效GCL的一般特性与实现技巧。
Sep, 2021
本文提出了一种基于结构和语义对比学习算法框架的简单神经网络-S^3-CL,用于在无监督情况下学习表达具有全局结构和语义的节点特征,通过实验表明与现有的基于GNN的无监督GCL方法相比,S^3-CL在不同的下游任务上可以获得优异的表现。
Feb, 2022
我们提出了一种用于异质图的多视角对比学习模型 MUSE,通过使用增强的 GNNs 构建两个视图来捕获离心节点及其邻域的信息,并融合这两个视图的信息进行节点表示,通过融合对比增强效果,使用信息融合控制器建模本地和全局节点-邻域相似度的多样性,通过交替训练方案确保无监督节点表示学习和信息融合控制器相互增强,在9个基准数据集上实验证明了 MUSE 在节点分类和聚类任务上的有效性。
Jul, 2023
我们提出了一种局部结构感知的图对比学习方法 (LS-GCL),用于从多个视角建模节点的结构信息,并且通过多层对比损失函数来优化模型,实验结果表明我们的方法在节点分类和链接预测任务上均优于最先进的图表示学习方法。
Aug, 2023
通过引入知识蒸馏,我们提出了一种新颖的层次化拓扑同构专家嵌入图对比学习方法,用于增强GCL模型学习层次化拓扑同构专业知识,包括图层和子图层。与传统的GCL方法相比,我们的方法在贝叶斯分类错误上获得更紧的上界,并在真实世界基准测试中表现出了超越候选GCL方法的性能优势。
Dec, 2023
图分类是一项重要的图结构数据学习任务,我们提出了一种新颖的Tensor-view拓扑图神经网络(TTG-NN),利用持久同调、图卷积和张量运算构建了一种简单而有效的拓扑深度学习方法,能够同时捕捉局部和全局层面上的张量表示和图结构信息。在实际数据实验中,TTG-NN在各种图基准数据上表现优于其他20种最先进的方法。
Jan, 2024
图对比学习在图神经网络的强大优势下充分利用丰富的无标签信息来学习图的特征表示,然而现有的方法忽视了高阶图子结构的重要潜在信息,本研究通过引入拓扑不变性和扩展持久性的概念来解决这个限制,提出了一种新的对比学习模式并引入了扩展持久性景观,实验结果表明TopoGCL模型在无监督图分类中取得了显著的性能提升。
Jun, 2024
本研究针对现有图神经网络模型在缺乏标注数据的实际应用中的局限性,提出了一种新的图表示嵌入方法GRE2-MDCL。该方法采用三重网络架构和多头注意力GNN,结合SVD和LAGNN技术进行图输入的全局和局部增强,并构建多维对比损失以优化模型。实验结果表明,GRE2-MDCL在多个基准数据集上实现了最先进的性能,显著提升了图结构捕捉的准确性。
Sep, 2024