Jun, 2024

规则、自解释和领域不变的 GNN 的忠诚度的利弊

PDF
TL;DR当我们对图神经网络的预测进行解释时，准确可信的解释是至关重要的。我们发现现有的指标在可信度方面并不可替代，但它们可能对解释的重要属性具有系统性不敏感性，针对这些问题提出了解决方案。对于一类特定的图神经网络结构，追求完全准确可信的解释是没有意义的。与之不同的是，对于自解释和领域不变的模块化图神经网络结构，追求可信度并不会损害信息量，并且与非分布式泛化能力也有意想不到的联系。
发现论文，激发创造
  • 自解释图神经网络的可信度如何？

    自解释深度神经网络是最近的一类模型，可以输出与模型推理相一致的直观解释，从而在表达能力和可解释性之间实现了一定的进步。自解释图神经网络通过图数据的方式实现了相同的目标。本文对几种自解释图神经网络的忠诚度进行了分析，使用了不同的忠诚度度量方式，并指出了模型本身和评估指标的一些局限性，并提出了进一步研究的可能方向。

    Aug, 2023

  • 深度图模型的忠实解释

    本文研究了图神经网络（GNNs）的可信解释，并提供一种全新的通用方法来形式化描述 GNNs 的可信解释，包括特征归因和子图解释。作者提出的 KEC 方法从图的结构和其 k 次幂得到信息，可以最大程度地提高生成解释的准确性以及说明原始 GNN 的预测结果，同时弥补了子图解释和特征归因方法的缺陷。经过作者使用多种合成和真实数据集的分类和异常检测任务的实验证明，该方法是有效的。

    May, 2022

  • 信任的知识图解释与常识推理

    融合语言模型和知识图谱已经变成通识问题回答研究中的常见做法，但在这些模型中实现忠实的思维链解释仍然是一个开放问题。本研究的两个主要贡献是：(1) 提出并验证了两个定量指标 - 图一致性和图忠实度 - 用于衡量基于知识图谱的解释的忠实性。(2) 引入了一种新颖的训练方法 Consistent GNN (CGNN)，通过增加一项一致性正则化项来提高解释的忠实性。分析结果表明，知识图谱的预测往往与原始模型的预测偏离。所提出的 CGNN 方法提高了一致性和忠实度，展示了它产生更忠实解释的潜力。我们的工作强调明确评估的重要性，并为开发基于图的忠实解释结构提供了前进的方向。

    Oct, 2023

  • 针对图神经网络可解释性评估的鲁棒保真度提升

    通过引入一种信息理论的解释性定义，研究了图神经网络（GNN）的可解释性挑战，发现现有的忠实度量衡不符合这一定义，提出了一种稳健的忠实度量方法，通过广泛的实证分析验证了其与标准度量方法的一致性。

    Oct, 2023

  • 图神经网络的忠实和一致解释

    从因果关系的角度理论分析图神经网络的预测，并提出了一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。

    May, 2022

  • 关于可信图神经网络的综合调查：隐私、鲁棒性、公正性和可解释性

    本文对图神经网络在隐私、鲁棒性、公平性和可解释性等计算方面进行了全面的调查，为不同方面的值得信任的 GNN 模型提供了发展框架和方法论。

    Apr, 2022

  • 忠诚度度量中的不一致问题

    解释性人工智能（XAI）领域旨在解释黑盒机器学习模型的工作方式，而选择合适的方法以及衡量本地解释的忠实度的当前指标缺乏一致性，使得使用者在选择最忠实的解释时感到困惑。

    Nov, 2023

  • 自然语言处理中的模型解释研究综述

    本综述通过对忠实度的镜头，回顾了超过 110 种自然语言处理中的模型解释方法。我们考虑了忠实度的定义和评估，以及它对可解释性的重要性，并将现有方法分为五类。最后，我们总结了它们的共同优点和未解决的挑战，并反思了未来的研究方向。

    Sep, 2022

  • 图形神经网络解释是脆弱的

    解释性图神经网络的解释器在对抗性攻击下表现脆弱

    Jun, 2024

  • 值得信赖的图神经网络：方面、方法和趋势

    本文提出了一个全面的路线图，从各种涉及的计算技术的角度建立可信任的图神经网络；介绍了可信任的图神经网络的六个方面的基本概念和全面总结了现有的研究，包括鲁棒性、可解释性、隐私、公平性、问责性和环境福祉，并强调了这些方面之间错综复杂的关系；最后，我们对促进可信赖的图神经网络的研究和产业化的趋势进行了全面的概述。

    May, 2022