Jan, 2021

GLocalX -- 从本地到全局的黑匣子 AI 模型解释

PDF
TL;DRGLocalX 是一种基于本地解释的模型无关的解释方法，通过汇总本地解释解释部分理解黑匣子模型，从而学习精确而简单的可解释模型，以替代黑匣子模型。实验证明，GLocalX 能够准确地模拟几种模型，其性能达到本机全局解决方案的最新水平，这为在带有高维数据的复杂领域中实现高准确性和可理解性的分类模型奠定了基础。
发现论文，激发创造
  • 黑匣子模型的全局局部解释

    本研究提出了一种名为 GALE 的机器学习模型，旨在提供有关模型全局决策过程的洞见。结果表明，聚合方法的选择很重要，我们的提出的聚合方法能更好地代表特征如何影响模型的预测，并通过识别区分性特征提供全局洞见。

    Jul, 2019

  • 本地通用基于规则的解释

    本研究提出了一种基于规则的 Local Universal Explainer（LUX）模型，可以生成事实、反事实和视觉解释，通过修改决策树算法实现倾斜分割和与 SHAP 或 LIME 等特征重要性 XAI 方法的集成。该方法通过选择对解释模型的决策边界形成具有最高影响力的真实数据的高密度聚类的局部概念，而不使用数据生成，测试表明它在简单性、全局保真度和代表性等方面优于当前现有的 LORE、EXPLAN 和 Anchor 等基于规则的解释方法。

    Oct, 2023

  • CALIME：基于因果关系的本地可解释模型无关解释

    本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

    Dec, 2022

  • 可解释人工智能方法的可靠性和稳定性如何？

    黑盒模型、可解释人工智能方法（XAI 方法）、eXirt、扰动等是本研究的关键词，通过实验和生成解释以评估 XAI 方法的稳定性和可靠性。结果表明，eXirt 能够识别出最可靠的模型，同时发现当前 XAI 方法对扰动敏感，但存在一个特定方法例外。

    Jul, 2024

  • McXai: 两个博弈作为本地模型无关解释

    本文介绍一种基于强化学习技术的可解释人工智能方法，称为 McXai，以解释任何黑盒分类模型的决策。该方法使用 Monte Carlo 树搜索对生成解释的过程进行建模，并利用两个游戏来找到支持分类器决策的特征集合和导致替代决策的特征集合。最终呈现为一棵树形结构，每个节点表示一个要研究的特征集，能够找到比 LIME 和 SHAP 更具信息性的特征，并且能够指出误导特征，从而提高黑盒模型的鲁棒性。

    Jan, 2022

  • Greybox XAI: 一种神经符号学习框架，用于生成可解释的图像分类预测

    通过形式化说明解释是什么，提出一些公理和定义来澄清可解释的人工智能的数学角度。最后，我们提出了一个 Greybox XAI 框架，该框架通过使用符号知识库将 DNN 和透明模型组成。我们从数据集中提取知识库，并使用它来训练透明模型（即逻辑回归）。然后，我们在 RGB 图像上训练编码器 - 解码器架构，以产生类似于透明模型使用的知识库的输出。一旦两个模型独立地训练好后，它们就在组成的形式上用于形成可以解释的预测模型。我们展示了这种新的架构在几个数据集中是准确的和可以解释的。

    Sep, 2022

  • CLIMAX：分类器基于对比解释的探索

    本文提出了一种名为 CLIMAX 的后操作模型无关 XAI 技术，它提供了对黑盒分类器分类的对比解释以及为什么其他类别未被预测的理由。

    Jul, 2023

  • MAGIX: 模型无关的全局可解释解释

    该研究提出一种通过学习 if-then 规则来全局解释黑盒机器学习模型行为的方法，并通过公开数据集和数字营销数据集的黑盒模型进行实证验证。

    Jun, 2017

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 黑盒决策系统的本地基于规则的解释

    本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

    May, 2018