Feb, 2022

穿过内、外流形价值函数针眼的 Shapley 解释

PDF
TL;DR本文旨在为 XAI 背景下的特征重要性贡献价值函数，并引入一种新的基线价值函数 —— 联合基线价值函数，在低密度区域具有稳健性，该价值函数在协同游戏上表现良好。
explainable aishapley valuesvalue functionscooperative gamesadversarial manipulations
发现论文，激发创造
  • 数据流形上的 Shapley 可解释性

    本研究旨在介绍 Shapley 可解释性的一个数学根据和模型独立的框架，但是通常的 Shapley 可解释性实现做了一个不切实际的假设，即模型的特征是不相关的，而作者这里提出了两种策略去解决这个问题，基于生成建模的方法提供灵活的数据归因，另一种直接学习了 Shapley 价值函数，提供了性能和稳定性，但缺陷是没有灵活性，通过我们的研究表明该假设会导致展示效果错误，隐藏敏感性属性的隐含模型依赖性和意义不明的高维数据。

    Jun, 2020

  • 基于流形的 SAR 识别网络解释的 Shapley 值

    在合成孔径雷达（SAR）等风险高、成本高的场景中，可解释的人工智能（XAI）对于提高深度神经网络的透明度和可信度至关重要。Shapley 是一种具有强大数学基础的基于博弈的解释技术。然而，Shapley 假设模型的特征是独立的，这使得高维模型的 Shapley 解释无效。本研究通过将高维特征投影到低维流形特征，并随后获得 Fusion-Shap，引入了一种基于流形的 Shapley 方法，旨在（1）解决传统 Shap 遇到的错误解释问题；（2）解决传统 Shap 在复杂场景中面临的可解释性挑战。

    Jan, 2024

  • 机器学习中的 Shapley 值

    本文介绍了合作博弈理论的基本概念以及 Shapley value 的公理性质，概述了其在机器学习中的最重要应用：特征选择，可解释性，多智能体强化学习，集成修剪和数据估价，指出了 Shapley value 的主要局限性和未来研究方向。

    Feb, 2022

  • 模型解释的多个 Shapley 值

    本文探讨了 Shapley 值在归因问题中的多样实现方式及产生的问题，且提出了一种基于独特性原理的技术 Baseline Shapley（BShap），并将其与 Integrated Gradients 进行对比。

    Aug, 2019

  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019

  • Shapley 值在可解释性方面的不足

    本论文发现使用 Shapley 值进行可解释 AI (XAI) 会导致关于特征重要性的推断存在严重偏差，并指出在某些分类器的情况下，计算严格特征归因值的有效算法的存在性应被视为不太可能。

    Feb, 2023

  • 基于 Shapley 值的解释存在的特征重要性度量问题

    采用博弈论方法计算机器学习模型特征重要性的数学问题存在和 Shapley 值并不能很好地解释人类可解释目标的论证以及需要因果推理等技术增加复杂性。

    Feb, 2020

  • 通过 Shapley 值的分解来解释模型和特征之间的依赖关系

    本文提出了一种新的算法方法，将 Shapley 值中两种不同的解释组合在一起，以增强模型的说明能力，并在两个真实世界的数据集上应用。

    Jun, 2023

  • 个体 Shapley 值解释的精确性

    Shapley value explanations are less precise for observations on the outer region of the training data distribution, which has not been systematically addressed in the Shapley value literature.

    Dec, 2023

  • 拒绝使用 Shapley 值进行 XAI -- 额外证据

    最近的研究表明 Shapley 值对于可解释的人工智能（XAI）是不足够的，本文通过对特征既非布尔型又能选择多个类别的分类器家族的研究，进一步证明了 Shapley 值在 XAI 中的不适用性，并展示了在任何最小 l0 距离对抗样本中发生变化的特征都不包括无关特征，从而提供了更多关于 Shapley 值在 XAI 中的不足的论证。

    Sep, 2023