Jul, 2022

从消息传递的角度重新审视基于分解的 GNN 模型

PDF
TL;DR本文提出 ReFactor GNNs 架构，实现了在较少参数使用的情况下，在诸多知识图谱完成基准测试中达到与 FMs 相当连接性能的跨语境性，同时在归纳性能方面达到最新水平，同时结合了因子分解模型和图神经网络的优点。
factorisation-based modelsknowledge graph completionrefactor gnnsnode featuresinductive settings
发现论文，激发创造
  • 因子图神经网络

    我们提出了一种能够有效捕捉高阶关系进行推理和学习的因子图神经网络模型，并通过适当选择信息聚合操作，实现了 Max-Product 和 Sum-Product 循环置信传播的单一架构。通过在真实和合成数据集上进行广泛的实验评估，证明了该模型的潜力。

    Aug, 2023

  • GraphFM：用于特征交互建模的图形因子分解机

    本论文提出了一种基于图形结构和 GNN 特征汇聚策略相结合的 Graph Factorization Machine 方法，可以在处理高维度稀疏数据时有效地建模任意高阶特征交互，并具有优异的预测准确性。

    May, 2021

  • 面向个性化的图基础模型

    本文介绍了一种基于图的个性化模型方法，该方法结合了异构图神经网络（HGNN）和大型语言模型（LLM）来实现多类型物品的个性化推荐，并在一个真实的工业音频流平台上进行了严谨的测试和有效性验证。

    Mar, 2024

  • GNN-FiLM: 具有特征线性调制的图神经网络

    该论文提出了一种基于特征线性调制（FiLM）的新型图神经网络（GNN）类型，该网络在分子图的回归任务上的表现优于基准方法并在其他任务上表现出竞争力。

    Jun, 2019

  • 灵活表示多模块图神经网络以实现更好的泛化

    本文研究了图神经网络的可扩展性和推广性，并提出了灵活的 GNNs 框架，通过多种节点更新函数和内部循环优化，使网络能够灵活适应新图并在多项推理任务中提高泛化能力。

    Sep, 2022

  • 等变矩阵函数神经网络

    矩阵函数神经网络是一种新颖的架构，通过分析的矩阵等变函数参数化非局部交互。在标准图形基准测试中，MFN 架构实现了最先进的性能，并能够捕捉量子系统中复杂的非局部交互，为新的最先进力场铺平了道路。

    Oct, 2023

  • 从图神经网络中提取低 / 高频率知识并注入到 MLPs 中：一种有效的 GNN 到 MLP 的蒸馏框架

    本文介绍了一种名为 Full-Frequency GNN-to-MLP 的知识蒸馏方法，它能够从 GNN 中抽取低频和高频知识，并将其注入 MLP 中，从而解决了现有方法中可能存在的高频知识被低频知识淹没的问题。实验表明，该方法在六个图形数据集和三种常见的 GNN 架构中平均优于原始 MLPs 12.6％，并且优于对应的 GNN 2.6％。

    May, 2023

  • 面向公平性的图神经网络消息传递

    提出了一种新颖的公平感知消息传递框架 GMMD，该框架考虑了图平滑性和表示公平性，并且可以显著提高各种 GNN 模型的公平性，同时保持高精度。

    Jun, 2023

  • 关于消息传递神经网络作为全局特征图变换器的表达能力

    本文探讨了消息传递神经网络（MPNN）在转换其输入图中节点存储的数字特征方面的能力。我们引入了全局特征映射变换器（GFMT）的概念，并以 GFMT 的基本语言 MPLang 作为表现能力的标准。我们考虑了精确与近似表现力、任意激活函数的使用以及只允许使用 ReLU 激活函数的情况。

    Mar, 2022

  • 可分解的图卷积网络

    本文提出了一种新的图卷积网络 (FactorGCN)，能够显式地解开图中绕在一起的、包含多种关系的数据，将其拆分成多个因式图，在每个因式图的潜在空间内分别聚合节点的特征，进而实现更好的下游任务表现。在合成和真实世界数据集上进行了定性和定量评估，并展示了真正令人鼓舞的结果。

    Oct, 2020