Jan, 2024

无预定义簇数 k 的图聚类的掩码自编码器

PDF
TL;DR图聚类算法中的自编码器结构因其高效性能和低训练成本而近来受到关注。然而，对于基于 GCN 或 GAT 的现有图自编码器聚类算法来说，它们不仅缺乏良好的泛化能力，而且很难自动确定由这些自编码器模型聚类的群集数目。为解决这个问题，我们提出了一个称为 Graph Clustering with Masked Autoencoders (GCMA) 的新框架。它利用我们设计的基于图遮蔽方法的融合自编码器来进行图的融合编码。在解码过程中，它引入了我们改进的基于密度的聚类算法作为第二个解码器，并通过多目标重构进行解码。通过解码遮蔽嵌入，我们的模型能够捕捉到更广义和全面的知识。在提高泛化能力的同时，可以输出端到端的群集数目和聚类结果。作为一种非参数类方法，广泛的实验证明了 GCMA 相对于最先进的基准算法的优越性。
发现论文，激发创造
  • GiGaMAE: 通过协同潜在空间重建实现可泛化的图掩码自编码器

    我们提出了一种名为 GiGaMAE 的新型图掩蔽自编码器框架，通过协同重构信息化和综合的潜在嵌入，从而解决了当前图数据上遇到的推理能力不强的问题。通过将图拓扑和属性信息包含在嵌入中，作为重构目标，我们的模型能够捕捉到更广义和综合的知识，并引入基于互信息的重构损失，使得能够有效重构多个目标，实验结果表明 GiGaMAE 在多个基准测试中表现优于现有基线模型。

    Aug, 2023

  • MGAE：用于图像自监督学习的屏蔽自编码器

    本文提出了一种新颖的 MGAE 框架，通过对图结构进行随机遮掩边来重构这些缺失的边并利用 GNN 对部分遮掩的图进行传播来训练 MGAE 以达到有效学习图结构数据的目的，并在多个开放数据集上进行了广泛实验，表明 MGAE 在链接预测和节点分类方面总体性能优于最先进的无监督学习竞争对手。

    Jan, 2022

  • 通过对齐和均匀性重新思考图形遮罩自编码器

    通过在理论上构建 GraphMAE 和 GCL 之间的桥梁，我们证明了 GraphMAE 中的节点级重构目标隐含地执行上下文级 GCL，并指出了 GraphMAE 在对齐性和一致性方面的局限性。为了解决这些限制，我们提出了一种增强的对齐一致性图掩码自编码器 AUG-MAE，并通过实验证明了该模型优于现有最先进方法。

    Feb, 2024

  • MaskGAE：掩码图建模 meets 图自编码器

    本文提出了自监督学习框架 MaskGAE，以 Masked Graph Modeling 为前置任务，证明其可以大大提高自监督学习方案。经过广泛的基准测试，证明了 MaskGAE 在连接预测和节点分类任务上的优越性。

    May, 2022

  • HAT-GAE：具有分层自适应掩模和可训练破坏的自监督图自编码器

    本文研究了自监督自编码器在图数据中的表现问题，并提出一种新的自编码器模型用于图形表示学习，该模型包括分层自适应掩蔽机制和可训练的破坏机制，通过在十个基准数据集上的广泛实验，证明了所提出方法相对于现有的图表征学习模型其卓越性。

    Jan, 2023

  • Hi-GMAE：层次图掩码自编码器

    Hierarchical Graph Masked AutoEncoders (Hi-GMAE) is a multi-scale framework that addresses the limitations of single-scale Graph Masked Autoencoders (GMAEs) in incorporating hierarchical structures within graphs, resulting in improved performance compared to other self-supervised competitors.

    May, 2024

  • 稳健掩码图自编码器

    本文提出了一种新的自监督图形预训练方法 RARE，它在高阶潜在特征空间中进一步掩蔽和重构节点样本以提高推断掩蔽数据的确定性和自监督机制的可靠性，并采用的联合掩蔽 - 重构策略可以在潜在特征和原始数据空间中产生改进的稳定性和性能，在 17 个数据集上的大量实验中验证了 RARE 的有效性和鲁棒性。

    Apr, 2023

  • UGMAE: 图卷积自编码器的统一框架

    通过采用 UGMAE 方法，在自学习图上进行图遮挡自编码器的统一框架，解决了现有方法中节点重要性不均匀、整体图信息利用不足、表示空间中的语义知识忽视以及遮挡内容过大导致的不稳定问题，实验证明 UGMAE 在多个数据集上的多项任务上优于对比和生成最先进基准模型。

    Feb, 2024

  • GAMC: 使用图自编码器与掩码的无监督假新闻检测方法

    利用图自动编码器与掩码和对比学习的 GAMC，一种无监督的假新闻检测技术，通过利用新闻传播的上下文和内容作为自监督信号，消除了对标记数据集的要求，并通过实验验证了方法的有效性。

    Dec, 2023

  • 图结构引导的掩模自编码器中的掩模位置选择

    研究介绍了结构导向的掩膜策略（StructMAE），该策略通过评估节点的结构重要性并进行渐进式掩膜，从而有效地引导模型学习图结构信息，并在无监督学习和迁移学习任务中优于现有的 GMAE 模型。

    Apr, 2024