Feb, 2024

图神经网络机器：用于表格数据学习的新模型

PDF
TL;DR近年来，对不同领域数据进行图结构化映射的兴趣日益增长。本文展示了多层感知器（MLP）等神经网络模型可以用图表示，而图神经网络（GNN）是在图上执行机器学习任务的标准工具。我们提出了一种用于表格数据的新的机器学习模型，称为图神经机器（GNM），它用几乎完全图代替了 MLP 的有向无环图，并采用同步消息传递方案。我们展示了单个 GNM 模型可以模拟多个 MLP 模型，并在多个分类和回归数据集上评估了所提出的模型。在大多数情况下，GNM 模型优于 MLP 架构。
neural network modelsgraph structuresgraph neural networksmachine learning tasksgraph neural machine
发现论文，激发创造
  • 图神经网络：方法和应用综述

    本文介绍了图神经网络（GNNs）的设计管道，详细讨论了其各个组成部分的变体，对其应用进行了系统分类，并提出了四个开放性问题供未来研究。

    Dec, 2018

  • 图神经网络与概率图模型的交叉：综述

    该研究综述了图神经网络和概率图形模型的交叉应用，探讨了 GNN 如何受益于 PGM 学习结构表示，如何实现更有效的推理和结构学习，以及分析了近期研究中使用的基准数据集和未来研究方向。

    May, 2022

  • 图神经网络与图增强型多层感知机比较

    本文比较了多层图神经网络和一种被称为图增强多层感知器的简化替代品之间的表现，其中后者首先通过图上的某些多跳算子增强节点特征，然后以节点方式应用 MLP；并证明了 GA-MLP 具备适当算子的情况下，能像 Weifeiler-Lehman（WL）测试一样，理论和数值上能够区分几乎所有非同构图，但是 GA-MLP 与 GNN 之间在表达能力方面的差距随着深度呈指数增长，并且 GA-MLP 不能计算属性步行的数量，表明 GA-MLP 受其操作符族的选择限制比拥有更高学习灵活性的 GNN 更为受限，这在社区检测实验中也得到了证明。

    Oct, 2020

  • 有向无环图神经网络

    本文提出了一种基于 partial ordering 的神经网络结构 --DAGNN，该结构在 DAG 数据集上的表现优于先前的 DAG 结构和通用图形结构。

    Jan, 2021

  • 无图神经网络：通过蒸馏教老 MLPs 新技巧

    使用知识蒸馏技术将图神经网络（GNNs）和多层感知器（MLPs）相结合，提出了无图依赖的神经网络 GLNNs，并在 7 个数据集的生产环境中证明其比 GNNs 更快且准确率接近，适用于延迟受限的应用程序。

    Oct, 2021

  • 图神经网络是内在良好的泛化器：通过建立 GNN 和 MLP 之间的联系进行深入探究

    本文通过引入中间模型 PMLP，揭示了 GNN 的性能提升主要源于其本质上的泛化能力，而非原理层面上的增强表现力。同时，本文发现 PMLP 表现与 GNN 相当，但训练效率更高。该发现为解析 GNN 相关问题提供了新的视角。

    Dec, 2022

  • 基于图神经网络的表格数据深度学习上下文嵌入

    本文提出了一种新型深度学习模型，使用图神经网络（GNN）—— 特别是交互网络（IN）进行情境嵌入，以应对以表格形式存在的异构数据和特征。该模型在五个公共数据集上的深度学习基准测试中表现优异，优于最近发表的研究结果，并在与增强树解决方案的比较中也取得了竞争结果。

    Mar, 2023

  • 可解释的图神经网络用于表格数据

    IGNNet 是一个解释性图神经网络，用于处理表格数据，通过表征学习的方式捕获特征交互，大规模的实证研究证明 IGNNet 与 XGBoost、Random Forests 和 TabNet 等最先进的机器学习算法在处理表格数据时表现相当，同时 IGNNet 的解释与特征的 Shapley 值一致而无需额外的计算开销。

    Aug, 2023

  • Graph-MLP: 图中节点分类不需要消息传递

    本文提出了一个基于多层感知机的图神经网络模型 (Graph-MLP)，通过利用图结构的监督信号，该模型仅使用多层感知机、激活函数和层归一化，而无需用到信息传递模块，在 loss level 中，设计了一个邻域对比损失 (NContrast)，能够在大规模图数据和损坏的邻接信息中更轻巧、更强韧地进行分类任务，并证明了即使在测试阶段没有邻接信息，该模型仍然可以达到与最先进模型相媲美甚至更好的性能。

    Jun, 2021

  • 揭开图：图神经网络与图生成

    综述了图神经网络 (GNNs) 的应用、图数据和深度学习的扩展，以及 GNNs 的高级领域：图生成。

    Mar, 2024