ICMLMay, 2024

通过结构感知交互指数解释图神经网络

PDF
TL;DR本论文提出了 Myerson-Taylor 互动指数，将图结构内化到节点值和节点之间的互动值之中，并使用 Myerson-Taylor 结构感知图解释器（MAGE）基于二阶 Myerson-Taylor 指数识别影响模型预测的最重要模体。通过在各种图数据集和模型上进行广泛实验，我们证明了与现有方法相比，我们的方法始终提供更好的子图解释。
shapley valuegraph neural networksmyerson-taylor interaction indexgraph structuremage
发现论文，激发创造
  • Shapley Taylor 交互指数

    该论文提出一种称为 Shapley-Taylor 指数的方法来解决归因问题，并使用交互分布公理将其公理化，并将其应用于模型中以识别有趣的定性洞见。

    Feb, 2019

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 了解非线性：Shapley 互作用揭示数据的底层结构

    使用 Shapley Taylor 交互指数 (STII) 分析语言模型和图像分类器中的非线性特征交互，并研究数据结构对模型表达的影响。结果表明，语言模型在成语表达中非线性特征交互增加，而依赖句法结构性更多的自回归语言模型使得 STII 随句法距离扩展。同时，图像分类器的特征交互直观地显示对象边界。这些跨领域的研究结果突显了解释性研究中跨学科合作和领域专门知识的重要性。

    Mar, 2024

  • 利用 Myerson 值更高效地计算合作多智能体系统的个人属性和政策贡献，以实现事后解释

    本文提出了一种基于 Shapley 分析实现多智能体系统中个体贡献度评估的方法，并利用层次化知识图谱用于降低计算复杂度，同时通过测试证明了该方法不仅能评估团队中个体的重要性，还能揭示实现最佳策略所需的特征属性。

    Dec, 2022

  • ShapG：基于 Shapley 值的新特征重要性方法

    通过提出一种名为 ShapG 的新的可解释人工智能 (XAI) 方法，该方法基于 Shapley 值来衡量特征的重要性，本文探讨了人工智能系统的解释和透明度的重要性，并通过与其他 XAI 方法的比较和广泛的实验证明 ShapG 的高效性和可应用性。

    Jun, 2024

  • SHAP-IQ：任意阶 Shapley 交互的统一逼近

    该研究提出了一种基于采样的计算 Shapley interaction 的新方法 SHAP-IQ，可以用于所有符合线性、对称和虚拟公理的定义，理论上保证了其逼近质量，并提供了点估计的方差估计。该方法极大地简化了 SV 的计算，效率和效果得到了验证。

    Mar, 2023

  • GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释

    本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。

    Jan, 2024

  • Shapley Flow：一种基于图的模型解释方法

    提出了一种称之为 Shapley Flow 的新颖方法来解释机器学习模型，它可以考虑所有因果图，并将信用分配给边，而不是节点。

    Oct, 2020

  • 超越 TreeSHAP：用于树集成的任意阶 Shapley 互作用的高效计算

    TreeSHAP-IQ 是一种高效的方法，用于计算基于树的模型预测的任意阶可加性 Shapley 相互作用，并通过数学框架支持，利用多项式算术在树的单个递归遍历中计算相互作用分数。

    Jan, 2024

  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019