Jun, 2024

图神经网络中的节点滤波：一种专家混合方法

PDF
TL;DR图神经网络 (GNNs) 在各种图结构模式下的节点分类任务中已被证明非常有效。然而，现实世界的图通常展现出复杂的同构和异构模式的混合，使用统一的全局过滤器方法则不够优化。为解决这个问题，我们引入了一种新颖的 GNN 框架 Node-MoE，使用专家混合来自适应地选择不同节点的适当过滤器。广泛的实验证明了 Node-MoE 在同构和异构图上的有效性。
发现论文，激发创造
  • 图上自适应特征传播：超越低通滤波器

    提出了一种使用多个可学习谱滤波器的节点注意力机制的柔性图神经网络（GNN）模型，将聚合方案适应性地学习到每个图的谱域，从而更好地应对任意类型的图并在节点分类任务中取得了优越成果。

    Mar, 2021

  • 图混合专家：使用显式多样性建模在大规模图上学习

    该论文引入了 Mixture-of-Expert（MoE）思想到图神经网络中，提出了一种新的 Graph Mixture of Expert（GMoE）模型，用于同时建模多样的训练图结构，通过在 OGB 基准测试中表现的提升来验证 GMoE 的有效性。

    Apr, 2023

  • 同质性相关：面向多视角图聚类的自适应混合图滤波器

    提出了一种自适应混合图滤波方法（AHGFC）用于多视图图聚类，通过设计图联合处理和聚合矩阵，以使图中的低频和高频信号更可区分，进而基于图联合聚合矩阵学习节点嵌入，实验证明该方法在同质和异质图上表现出色。

    Jan, 2024

  • 元权重图神经网络：将极限推向超越全局同质化

    本文介绍了一个名为 Meta Weight Graph Neural Network 的模型，该模型可以自适应地构建不同节点的图卷积层来提高图神经网络的表达能力，其通过使用元权重模型来生成自适应图卷积来提高节点表示，并在真实和合成基准测试中进行了广泛的实验证明了其在处理具有不同分布的图数据方面具有出色的表现。

    Mar, 2022

  • 图知识蒸馏到专家混合

    通过使用一种特殊设计的学生模型（Routing-by-Memory）来解决节点分类任务中的性能问题，该模型是一种专家混合（Mixture-of-Experts），通过鼓励每个专家在隐藏表示空间的某个特定区域进行专门化，实验证明可以在多个数据集上实现更一致的性能。

    Jun, 2024

  • GPatcher：用于缓解图异质性的简单自适应 MLP 模型

    本文研究了图异质性对图神经网络性能的影响，提出通过设计自适应多项式滤波器和采用 MLP-Mixer 架构的 GPatcher 模型来解决这个问题，并在节点分类任务上取得了较好的性能。

    Jun, 2023

  • 通过图的混合进行图稀疏化

    使用混合图 (MoG) 技术对图神经网络进行图稀疏化处理，针对每个节点的特定环境选择合适的稀疏方案，并在 Grassmann 流形上生成最优稀疏图，从而实现更高的稀疏度水平、GNN 推理速度的提升，并改善 “顶级学生” GNN 在性能上的表现。

    May, 2024

  • 利用邻居效应：用于具有异质性图的 Conv-Agnostic GNNs 框架

    本文探讨了 GNNs 的异质问题并研究了跨类别邻居的特征聚合，提出了 CAGNNs 框架以提高节点分类任务的性能。实验结果表明，我们的框架能够分别提高 GIN，GAT 和 GCN 的平均预测准确率 9.81％，25.81％和 20.61％。

    Mar, 2022

  • 自适应通用广义 PageRank 图神经网络

    本文提出了一种新的广义 PageRank（GPR）图神经网络（GNN）架构，用于联合优化节点特征和拓扑信息提取，无论节点标签是同质的还是异质的。通过学习 GPR 权重，学到适应节点标签模式的权重，避免了特征信息过度平滑的问题，从而提高了在同质性和异质性数据集上的节点分类性能。

    Jun, 2020

  • 基于 $p$-Laplacian 的图神经网络

    本文提出了一种新的 GNN 模型：$^p$GNN，它实现了细胞特征和拓扑信息的同时分类，特别适用于异质图，其经过了充分的实验验证并表明表现显着优于多种 GNN 模型。

    Nov, 2021