Oct, 2023

信任的知识图解释与常识推理

PDF
TL;DR融合语言模型和知识图谱已经变成通识问题回答研究中的常见做法，但在这些模型中实现忠实的思维链解释仍然是一个开放问题。本研究的两个主要贡献是：(1) 提出并验证了两个定量指标 - 图一致性和图忠实度 - 用于衡量基于知识图谱的解释的忠实性。(2) 引入了一种新颖的训练方法 Consistent GNN (CGNN)，通过增加一项一致性正则化项来提高解释的忠实性。分析结果表明，知识图谱的预测往往与原始模型的预测偏离。所提出的 CGNN 方法提高了一致性和忠实度，展示了它产生更忠实解释的潜力。我们的工作强调明确评估的重要性，并为开发基于图的忠实解释结构提供了前进的方向。
language modelsknowledge graphscommonsense question answeringgraph consistencygraph fidelity
发现论文，激发创造
  • 深度图模型的忠实解释

    本文研究了图神经网络（GNNs）的可信解释，并提供一种全新的通用方法来形式化描述 GNNs 的可信解释，包括特征归因和子图解释。作者提出的 KEC 方法从图的结构和其 k 次幂得到信息，可以最大程度地提高生成解释的准确性以及说明原始 GNN 的预测结果，同时弥补了子图解释和特征归因方法的缺陷。经过作者使用多种合成和真实数据集的分类和异常检测任务的实验证明，该方法是有效的。

    May, 2022

  • 规则、自解释和领域不变的 GNN 的忠诚度的利弊

    当我们对图神经网络的预测进行解释时，准确可信的解释是至关重要的。我们发现现有的指标在可信度方面并不可替代，但它们可能对解释的重要属性具有系统性不敏感性，针对这些问题提出了解决方案。对于一类特定的图神经网络结构，追求完全准确可信的解释是没有意义的。与之不同的是，对于自解释和领域不变的模块化图神经网络结构，追求可信度并不会损害信息量，并且与非分布式泛化能力也有意想不到的联系。

    Jun, 2024

  • 图神经网络在知识图谱推理中的逻辑表现力

    本文从逻辑表达式的角度对图神经网络进行了理论分析，实验结果验证了我们提出的实体标记方法的有效性，并揭示了基于标记技巧的最先进的方法为什么很有效。

    Mar, 2023

  • QA-GNN: 用语言模型和知识图谱进行问答推理

    该研究提出了一种新模型 QA-GNN，通过关联系统知识图和语言模型，实现对问题与答案之间的共同推理，并取得了在常识和生物医学领域 QA 测试中优于现有模型的表现。

    Apr, 2021

  • 图神经网络的忠实和一致解释

    从因果关系的角度理论分析图神经网络的预测，并提出了一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。

    May, 2022

  • 知识图谱的三重可信度测量

    本论文中提出了一种能量量化知识图谱三元组语义正确性和表达事实的真实程度的知识图谱三元组可信度测量模型，通过交叉神经网络结构融合三个层面（实体级、关系级和 KG 全局级）的内部语义信息和全局推理信息来实现可信度测量和融合，并在真实数据集 FB15K 上进行了实验，结果表明与其他模型相比，我们的模型实现了显着和一致的改进。

    Sep, 2018

  • 针对图神经网络可解释性评估的鲁棒保真度提升

    通过引入一种信息理论的解释性定义，研究了图神经网络（GNN）的可解释性挑战，发现现有的忠实度量衡不符合这一定义，提出了一种稳健的忠实度量方法，通过广泛的实证分析验证了其与标准度量方法的一致性。

    Oct, 2023

  • 自解释图神经网络的可信度如何？

    自解释深度神经网络是最近的一类模型，可以输出与模型推理相一致的直观解释，从而在表达能力和可解释性之间实现了一定的进步。自解释图神经网络通过图数据的方式实现了相同的目标。本文对几种自解释图神经网络的忠诚度进行了分析，使用了不同的忠诚度度量方式，并指出了模型本身和评估指标的一些局限性，并提出了进一步研究的可能方向。

    Aug, 2023

  • 学习常识推理的情境化知识结构

    该研究提出一种名为 Hybrid Graph Network（HGN）的知识图谱（KG）增强模型，通过在一个统一的图结构中同时推理提取和生成的知识来解决 KG 边缘稀疏和嘈杂的问题，证明了该模型在四个常识推理基准测试中取得的相当大的性能增益，并研究了边缘有效性和帮助性。

    Oct, 2020

  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021