May, 2024

机器学习模型中的统一解释：一种扰动方法

PDF
TL;DR面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。
explainable artificial intelligencemachine learningexplainability approachesshapley additive explanationsfeature importance methodology
发现论文，激发创造
  • 可解释性并非游戏

    这篇论文提出了一个简单的论点：Shapley 值可能会给出误导性的相对特征重要性量度，从而不仅会将更多的重要性分配给与预测无关的特征，而且会给与与预测相关的特征更少的重要性，这对于高风险应用领域中相对特征重要性的许多提议使用产生了挑战。

    Jun, 2023

  • 利用可解释的人工智能来提高神经网络的性能

    本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

    Oct, 2022

  • 定量描述 XAI 方法中相关特征的贡献

    提出了一种简单而有用的代理，修改任何 XAI 特征排序方法的结果，以便考虑预测变量之间的依赖关系。该方法是模型不可知的，而且在存在共线性时计算每个预测变量在模型中的影响非常简单。

    Apr, 2023

  • 您能相信您的解释吗？特征归因方法的健壮性测试

    评估对非敌对扰动的稳健性并分析神经网络和表格数据集上应用的可解释 AI 方法的稳健性，展示如何利用流形假设和集成方法对稳健性进行深入分析。

    Jun, 2024

  • 基于可解释人工智能的消融研究分析

    针对可解释人工智能 (XAI) 方法缺乏基础事实的问题，研究人员提出了基于公理的方法，通过削弱输入属性的重要性来评估模型性能是否符合期望；本文则使用五个数据集，三种 XAI 方法，四个基线和三个扰动方案，展示了不同的扰动策略在验证过程中的作用，以及在后跑解释和去除研究中一个新的分类变量处理技术，并识别 XAI 方法和可行的脱敏方案的实用基线。

    Jul, 2022

  • T-Explainer: 基於梯度的模型无关解释性框架

    可解释人工智能（Explainable Artificial Intelligence）通过提供准确、一致且稳定的解释，解决机器学习中黑盒模型的透明度问题，其中基于泰勒展开的 T-Explainer 成为了一种有效的特征归因方法。

    Apr, 2024

  • 可解释人工智能在数据驱动系统中的隐私影响

    机器学习模型的不透明性威胁到其可解释性，可解释人工智能（XAI）技术通过提供解释 ML 模型内部决策过程的框架和方法来解决这一挑战，同时维护隐私的难题需要在理解 ML 决策和保护隐私之间找到平衡点。

    Jun, 2024

  • 可解释人工智能方法评论：SHAP 和 LIME

    这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

    May, 2023

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 机器学习模型的本地可解释模型无关 Shap 解释

    提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

    Oct, 2022