Jun, 2024

引入微小的因果结构进入图表示学习

PDF
TL;DR在图神经网络的端到端图表示学习中，由于图数据中复杂的因果关系和规则使得模型准确捕捉真实数据关系变得困难。本文提出一种缓解策略，即将与图数据对应的规则或关系直接整合到模型中。然而，在图表示学习领域中，图数据的固有复杂性阻碍了建立一个包含整个数据集的普遍规则或关系的全面因果结构的推导。相反，只有专门的因果结构，揭示了约束子集内的特定因果关系。基于经验见解，我们观察到 GNN 模型在训练过程中收敛于这些专门的因果结构。因此，我们认为引入这些特定的因果结构有助于 GNN 模型的训练。在这一前提下，我们提出了一种新方法，使 GNN 模型能够从这些专门的因果结构中获得洞察力，从而提高整体性能。我们的方法特别从这些特定的因果结构的模型表示中提取因果知识，并引入交换干预来优化学习过程。理论分析证实了我们提出方法的有效性。此外，实证实验在不同数据集上一致地展示了显著的性能改进。
end-to-end graph representation learninggraph neural networkscausal relationshipsgraph datagnn models
发现论文，激发创造
  • 图神经网络中因果关系学习的重新思考

    通过构建人工合成数据集和进行实验验证，本论文从因果学习的角度综合分析了各种图神经网络模型，在此基础上提出一种轻量且高度适应性的图神经网络模块，以增强其因果学习能力。

    Dec, 2023

  • 将图神经网络与结构因果模型相关联

    本文通过建立结构性因果模型和应用图神经网络模型，提出了一种新的因果推断方法，并证明了该方法可以用于因果效果辨识。

    Sep, 2021

  • 探索因果学习通过图神经网络：深度综述

    图神经网络 (GNNs) 在因果学习中的应用和发展进行了全面的综述，包括分类和应用等方面，提供了与实际研究相关的数据集，同时探讨了因果学习在不同领域的应用，为机器学习这一快速发展领域的挑战和未来的研究方向提供了启示。

    Nov, 2023

  • 学习图神经网络的离散结构

    本文提出了一种联合学习图结构和图卷积网络参数的方法，从而可以在不完整、损坏或无法使用图的场景中应用图卷积网络，并通过实验证明，该方法的性能显著优于相关方法。

    Mar, 2019

  • 朝向因果分类的图神经网络的全面研究

    研究发现了图神经网络在因果分析方面的潜力，通过评估不同数据环境中九个基准图分类模型的效率和灵活性，突显了预测能力以及需求进一步提升的领域。

    Jan, 2024

  • 通过学习解耦因果子结构来消除图神经网络的偏见

    本文研究了图神经网络的偏差问题及其对泛化性能的影响，并提出了一种能够将因果关系和偏差变量进行分离的图神经网络框架，其中利用参数化边缘生成器将输入图形分为因果图和偏差子图并分别训练两个 GNN 模块，实现了对原模型的改进并取得了超越基线模型的泛化效果。

    Sep, 2022

  • 从局部结构到尺度泛化的图神经网络

    本文针对图形分布中局部结构与图形大小相关的情况，探讨了图神经网络在不同大小的图上的泛化能力，发现了一些针对小图很好但对大图表现不佳的全局最小值，提出了两种改善图形大小泛化能力的方法，其中包括一个自我监督学习任务，该任务能够提供在大图中出现的局部结构的有意义表示，并在多个数据集上改善了分类准确度。

    Oct, 2020

  • 通过因果发现和领域知识融合提升神经网络性能

    我们提出了一种名为因果感知神经网络（CINN）的通用方法，用于将观测变量之间的层次化因果结构编码到神经网络中，从而提高其预测性能。通过将因果性结构化知识映射到神经网络的逐层设计中，CINN 通过连续优化问题将因果关系发现转化为定向无环图（DAG）学习来系统地从观测数据中发现因果关系，并通过专用架构和定制的损失函数将发现的层次化因果结构编码到神经网络中，实现了中间节点和叶节点的联合学习，显著提高了预测性能。

    Nov, 2023

  • 有向无环图神经网络

    本文提出了一种基于 partial ordering 的神经网络结构 --DAGNN，该结构在 DAG 数据集上的表现优于先前的 DAG 结构和通用图形结构。

    Jan, 2021

  • 基于因果视角的可信图神经网络调研

    在这篇综述中，我们针对当前图神经网络（Graph Neural Networks，GNNs）的信任度问题，介绍了最近关于启发于因果关系的 GNNs 的研究，并提出了基于因果学习能力的 Causality-Inspired GNNs（CIGNNs）的分类和典型方法，以及它们如何缓解信任度风险。我们还总结了有用的资源，并探讨了在这个新兴领域中的几个未来方向，希望能够为新的研究机会提供启示。

    Dec, 2023