May, 2023

使用 SHAP 特征重要性和模糊认知地图测量隐含偏见

PDF
TL;DR本文运用三步方法将特征重要性与隐性偏见相结合，结果说明了仅使用特征重要性作为衡量隐性偏见的方法具有风险，并且受保护特征所受到的偏见程度可能取决于特征的编码方式。
feature importanceimplicit biaspattern classificationfuzzy cognitive mapshap
发现论文，激发创造
  • 从 SHAP 得分到特征重要性得分

    本文介绍了可解释人工智能（XAI）的核心目标，即根据预测结果赋予机器学习模型特征的相对重要性。通过对功能归属的精确计算，研究表明该任务是非常重要的，并且之前提出的一些公理化聚合代表了过去研究中探讨的多个权力指数示例。此外，本文探讨了如何将一些广泛使用的权力指数用作特征重要性评分，并提出了满足可解释人工智能的新颖特征重要性评分。最后，文章对最知名的权力指数在提出的指标方面进行了深入分析。

    May, 2024

  • 基于信息论的公平感知特征选择度量

    本篇文章提出了一种基于信息论度量和 Shapley 值函数的公平特征选择框架，以考虑特征与决策结果之间的相关性，量化了不同特征对决策结果准确性与公平性的影响，最终设计了一个特征的公平效用分数，对真实和合成数据进行了性能评估。

    Jun, 2021

  • 解释模型预测的统一方法

    研究为什么一个模型做出某个特定的预测与预测准确性一样重要，然而对于像集成或深度学习模型这样的复杂模型，即使是专家也难以解释其高精度，因此需要各种方法来帮助解释预测，其中一个新方法，SHAP（Shapley Additive Explanations），通过为每个特征指定一个重要性值来解释预测。

    May, 2017

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 无法实现数据的变量重要性

    使用合作谢普利方法（Cohort Shapley）来验证黑盒预测算法的重要变量，并通过经济博弈理论来量化变量的重要性。该方法可以用于算法公平性问题，以确定受保护变量的重要性，并通过贝叶斯自助法估计 Shapley 值的不确定性。

    May, 2022

  • 计算与可视化反事实特征重要性值

    本文提出了 Counterfactual Feature Importance (CFI) 方法，并介绍了其计算过程和三种可视化方法，从而使解释和解释性口径机器学习更加透明。

    Jun, 2023

  • 黑盒模型特征重要性可视化

    本文介绍了一种基于局部特征重要性的机器学习可解释性方法，提出了两个可视化工具：partial importance (PI) 和 individual conditional importance (ICI) plots，并引入了 Shapley feature importance，可以公平地分配模型性能，比较不同模型上的特征重要性。

    Apr, 2018

  • 基于树模型和替代模型的公平特征重要性评分

    我们提出了一种公平特征重要性评分，用于解释决策树等可解释的黑盒机器学习模型对公平性或偏见的贡献。通过模拟和真实示例，我们证明了该方法对树形集成和其他机器学习系统的树形替代物提供了有效的解释性。

    Oct, 2023

  • 树集成的一致特征归因

    研究使用 SHAP 值作为唯一一种同时具有一致性和局部精度的加性特征归因方法，在现有方法不一致的情况下，提高特征归因的准确性和可解释性，应用于 XGBoost 模型中能够显著提高监督聚类性能和模型解释能力。

    Jun, 2017

  • 分类模型中预测不确定性的归因

    本文提出一种新的框架，将路径积分、反事实解释和生成模型相结合，以获得包含少量可观察到的人工构件或噪声的归因，并通过对各种复杂度的数据集的流行基准测试进行定量评估，证明这一方法优于现有的替代方法。

    Jul, 2021