May, 2024

RankSHAP：一种用于排序任务的金标准特征归因方法

PDF
TL;DR通过引入一种公理化博弈论的方法，本文针对排名任务的特征归因方法提出了 Rank-SHAP 算法，并通过多方案的计算效率和准确性评估以及与人类直观的一项用户研究，对算法进行了验证和分析。
post-hoc explanationsmodel-agnosticfeature attributionranking tasksaxiomatic characterization
发现论文，激发创造
  • ShaRP: 使用 Shapley 值解释排名

    基于 Shapley 值的 ShaRP 框架用于解释特征对排序结果的贡献，展示了即使排名算法使用已知和线性的评分函数，特征的权重也不能与其 Shapley 值对应，而是依赖于特征分布和评分特征之间微妙的局部交互。ShaRP 在多个感兴趣的指标（包括分数、排名、成对偏好和前 k 个）上计算特征的贡献，并能解释基于分数和学习排序模型。通过实际和合成数据集的大量实验证明了 ShaRP 的有用性。

    Jan, 2024

  • 使用 SHAP 和 LIME 的可证明稳定特征排序

    基于多重假设检验的思想，我们提出了一种特征归因方法 RankSHAP，能够以高概率正确排列最重要的特征，同时保证了计算效率。在实证结果中，我们还基于之前的工作为 LIME 扩展了类似的结果，确保以正确的顺序选择最重要的特征。

    Jan, 2024

  • 从 SHAP 得分到特征重要性得分

    本文介绍了可解释人工智能（XAI）的核心目标，即根据预测结果赋予机器学习模型特征的相对重要性。通过对功能归属的精确计算，研究表明该任务是非常重要的，并且之前提出的一些公理化聚合代表了过去研究中探讨的多个权力指数示例。此外，本文探讨了如何将一些广泛使用的权力指数用作特征重要性评分，并提出了满足可解释人工智能的新颖特征重要性评分。最后，文章对最知名的权力指数在提出的指标方面进行了深入分析。

    May, 2024

  • 可解释机器学习中 SHAP 评分的分布性不确定性

    本文提出了一个基于不明实体群体分布的 SHAP 得分推理的原则性框架，并通过研究函数最大值和最小值的基本问题来确定所有特征的 SHAP 得分的紧密范围，最终通过实验显示我们的框架可以为更稳健的特征评分做出贡献。

    Jan, 2024

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 树集成的一致个性化特征归因

    针对解释树集成方法（如梯度提升机和随机森林）结果的重要性，提出了 SHAP 值作为唯一一致及本地精确的归因值方法，并采用丰富的可视化方式改进归因总结和偏关系图，并提出了一种独特的 “受监督” 聚类方法。

    Feb, 2018

  • 模型解释的多个 Shapley 值

    本文探讨了 Shapley 值在归因问题中的多样实现方式及产生的问题，且提出了一种基于独特性原理的技术 Baseline Shapley（BShap），并将其与 Integrated Gradients 进行对比。

    Aug, 2019

  • 不要被蒙蔽：说明方法中的标签泄漏及其定量评估的重要性

    本文介绍了共有十种 feature attribution 方法，其中七种是 class-dependent 方法，三种为 distribution-aware 方法，并在三个临床数据集上对其进行了评估，提出 SHAP-KL 和 FastSHAP-KL 两种分布感知的方法，计算 Shapley 值。

    Feb, 2023

  • 关于修正 SHAP 分数

    本篇论文通过探讨 SHAP 得分中存在的问题以及特征函数的影响，提出了几种新的特征函数来替代现有的函数，以消除 SHAP 得分的一些限制。

    Apr, 2024

  • 对抗 Shapley 加性解释

    本文提出了一种新的 SHAP 方法，Counterfactual SHAP，以增强和澄清可操作性和特征归因之间的联系，通过使用反事实信息构建背景数据集，在许多合成示例中展示了 Shapley 值在可操作性场景中仔细考虑背景数据集的必要性，并提出了一种新的量化分数 counterfactual-ability 来衡量特征归因的性能。

    Oct, 2021