Apr, 2024

CNN2GNN：如何将 CNN 与 GNN 连结

PDF
TL;DR基于卷积神经网络（CNN）和图神经网络（GNN）的互补优势和弱点，本文提出了一种新颖的 CNN2GNN 框架，通过知识蒸馏将 CNN 和 GNN 结合起来。
convolutional neural networkgraph neural networkcnn2gnn frameworksparse graph learning moduleresponse-based distillation
发现论文，激发创造
  • Transformer 和 GNN 能互助吗？

    在这篇论文中，我们提出了一种名为 TransGNN 的新模型，其中 Transformer 层和 GNN 层交替使用以相互改进。我们利用 Transformer 来聚合更相关的节点信息以改善 GNNs 的消息传递，并利用位置编码和 GNN 层将图结构融入节点属性中，改善 Transformer 在图数据中的表现。通过理论证明，我们证明了 TransGNN 相对于仅具有额外线性复杂度的 GNNs 更具表达力。在八个数据集上的实验证实了 TransGNN 在节点和图分类任务上的有效性。

    Aug, 2023

  • GTAGCN：广义拓扑适应图卷积网络

    基于广义聚合网络和拓扑自适应图卷积网络的混合方法，适用于顺序数据和静态数据的类型，在节点和图分类中都有良好的表现。

    Mar, 2024

  • 图神经网络：方法和应用综述

    本文介绍了图神经网络（GNNs）的设计管道，详细讨论了其各个组成部分的变体，对其应用进行了系统分类，并提出了四个开放性问题供未来研究。

    Dec, 2018

  • 学习图神经网络的离散结构

    本文提出了一种联合学习图结构和图卷积网络参数的方法，从而可以在不完整、损坏或无法使用图的场景中应用图卷积网络，并通过实验证明，该方法的性能显著优于相关方法。

    Mar, 2019

  • 无图神经网络：通过蒸馏教老 MLPs 新技巧

    使用知识蒸馏技术将图神经网络（GNNs）和多层感知器（MLPs）相结合，提出了无图依赖的神经网络 GLNNs，并在 7 个数据集的生产环境中证明其比 GNNs 更快且准确率接近，适用于延迟受限的应用程序。

    Oct, 2021

  • DeepGCNs: 让 GCNs 达到与 CNNs 相同的深度

    本篇论文介绍了如何将残差 / 稠密连接和扩张卷积等深度卷积神经网络中的概念应用于图卷积网络中，从而成功地训练出多达 112 层的深度图卷积网络，该方法在多个数据集和任务中展示出了非常良好的表现。

    Oct, 2019

  • 带有邻居交互的双线性图神经网络

    本文提出了 Bilinear Graph Neural Network (BGNN) 作为一种新的图卷积运算符，它增加了邻居节点表示的成对交互，从而在半监督节点分类任务中提高了 GNN 的表示能力。实验结果表明，BGNN 模型的性能优于现有的 GNN 模型。

    Feb, 2020

  • T2-GNN: 通过教师 - 学生蒸馏的方法，为具有不完整特征和结构的图形设计图形神经网络

    本文提出了基于师生蒸馏的图神经网络框架 (T2-GNN)，旨在解决 GNN 在处理不完整图数据时性能下降的问题。该框架使用特定的特征级和结构级教师模型提供针对性的指导，并提出双重蒸馏模式以确保教师模型的知识被有效地灌输到学生模型中，从而消除特征和结构之间的干扰。

    Dec, 2022

  • DeepGCNs: GCN 能否像 CNN 一样深？

    本研究通过将 CNN 的残差连接和扩张卷积应用到 GCN 体系结构中，成功地解决了 GCN 中梯度消失的问题，构建了深层的 GCN，实现了更好的点云语义分割表现。

    Apr, 2019

  • 基于图的信号的卷积神经网络架构

    该研究探索了卷积神经网络在图信号处理方面的应用，通过构建选择图神经网络和聚合图神经网络，对信号的卷积和池化进行了重新解释，实现了在图数据上的卷积神经网络。此外，该研究还对选择和聚合图神经网络在一个基于源定位和作者归属的应用中进行了性能分析和评估。

    May, 2018