KDDDec, 2021

因果关注力用于可解释和可泛化的图分类

PDF
TL;DR本研究提出 Causal Attention Learning (CAL) 策略，利用因果推断来处理图分类过程中存在的 confounding effect of shortcuts，该方法借助注意力模块估计因果特征和快捷特征，并对因果理论进行参数化背门调整。实验结果表明，CAL 策略在合成和真实数据集上均取得了良好的效果。
graph classificationgraph neural networkscausal inferenceshortcut featuresgeneralization
发现论文，激发创造
  • 基于因果推断的图神经网络注意力监察：通往强大注意力的更好和更简单选择

    本文介绍了一种新的框架，利用因果关系工具为学习注意力函数的过程提供强有力的监督信号，可用于任何基本的基于注意力的图神经网络，并在广泛的基准数据集上进行了验证。

    May, 2023

  • 图注意力回顾

    本文针对图神经网络进行多个实验，并研究其在节点分类问题中的理论表现。研究结果指出，图注意力机制可以区分类内和类间边缘，重要边的权重得以保留，进而实现完美的节点分类。

    Feb, 2022

  • 图神经网络中注意力和泛化的理解

    本研究关注于图神经网络中节点的注意力机制及其效果影响，特别地，对比研究了图同构网络，在设计出一系列简单的图推理任务后，研究发现在典型环境下注意力的作用微乎其微，甚至有害作用，但在某些条件下可以大幅度提高分类性能达到 60% 以上。为了实现这些条件，通常需要在初始化或监督训练注意力方面下功夫，并提出了一种弱监督训练注意力的方法，实现效果与有监督学习基本一致，比无监督学习在多个数据集上都要好。

    May, 2019

  • 因果关注用于无偏视觉识别

    本文提出了一种因果关系注意力模块，通过自我注释来识别难以预测的混淆变量，从而使深度学习模型更好地处理在分布不同的情况下仍具备鲁棒性的因果特征，不仅解决了监督注释需要高昂成本、混淆变量难以抽象提取等问题，并在相应实验中得到了卓越的结果。

    Aug, 2021

  • 可学习的图卷积注意力网络

    该研究介绍了图卷积注意力层（CAT）和 GNN 架构（L-CAT），旨在充分利用两种方法的优势并自动插值 GCN，GAT 和 CAT。研究结果表明，在一系列数据集中，L-CAT 能够有效地组合不同的 GNN 层，优于竞争方法，从而减少了交叉验证的需求。

    Nov, 2022

  • 基于图注意力的 GNN 模型解释的语义解读和验证

    提出了一种通过应用语义关注来增强图神经网络 (GNN) 模型的可解释性的方法，介绍了语义信息的扰动以及预测的特征重要性权重和模型准确性之间的相关性，应用于 Lidar 点云估计模型成功地识别出有助于提高性能的关键语义类别，从而有效生成可靠的事后语义解释。

    Aug, 2023

  • 基于因果关系的图神经网络 CTR 预测

    本文通过引入因果关系，基于图神经网络框架提出一种面向在线广告的点击率预测模型（Causal-GNN），采用结构化特征表达学习方法（GraphFwFM）和 GraphSAGE 分别学习特征、用户和广告的图表示，并在三个公共数据集上的实验证明了本模型在 AUC 和 Logloss 上的优越性以及 GraphFwFM 在因果关系特征图上捕捉高阶特征表示的有效性。

    Jan, 2023

  • 鲁棒大规模网络定位的注意力图神经网络

    提出了一种基于图神经网络的网络定位方法，通过结合关注机制，在严重的非直线视线传播情况下实现了卓越的稳定性和准确性，消除了离线校准或非直线视线识别的需求。

    Nov, 2023

  • 基于注意力机制的图神经网络半监督学习

    本文提出一种使用注意力机制的图神经网络，通过去除中间的全连接层，并结合图结构实现对邻域的动态自适应的总结，从而达到降低参数数量，提高半监督学习效果的目的。

    Mar, 2018

  • 探索因果学习通过图神经网络：深度综述

    图神经网络 (GNNs) 在因果学习中的应用和发展进行了全面的综述，包括分类和应用等方面，提供了与实际研究相关的数据集，同时探讨了因果学习在不同领域的应用，为机器学习这一快速发展领域的挑战和未来的研究方向提供了启示。

    Nov, 2023