Oct, 2021

对抗 Shapley 加性解释

PDF
TL;DR本文提出了一种新的 SHAP 方法，Counterfactual SHAP，以增强和澄清可操作性和特征归因之间的联系，通过使用反事实信息构建背景数据集，在许多合成示例中展示了 Shapley 值在可操作性场景中仔细考虑背景数据集的必要性，并提出了一种新的量化分数 counterfactual-ability 来衡量特征归因的性能。
feature attributionsactionable recourseshapcounterfactualmodel explanation
发现论文，激发创造
  • 游戏理论特征归属与反事实解释之间的联系

    本文探讨了可解释人工智能领域中的两种热门解释方式 —— 特征归因和反事实解释，并建立了它们之间的理论联系，证明了它们在一定条件下是等效的，同时进行了实验，验证了这一理论发现。

    Jul, 2023

  • 统一特征归属和反事实说明：不同的手段达成了相同的目的

    通过真实因果关系框架提供一种将特征归因和反事实解释统一的解释方法，通过在 Adult-Income，LendingClub 和 German-Credit 三个基准数据集上的实验，发现 Feature attribution 方法和 counterfactual explanation 方法并不总是一致的，也表明了他们之间的互补性。

    Nov, 2020

  • 使用 SHAP 生成对照与反事实解释

    本文提出了一种利用 SHAP 理论生成模型互解释性的模型无关方法，能够生成可用于人类理解的对比和反事实解释，并在 IRIS、葡萄酒质量和移动特性数据集上进行测试和分析。

    Jun, 2019

  • 计算与可视化反事实特征重要性值

    本文提出了 Counterfactual Feature Importance (CFI) 方法，并介绍了其计算过程和三种可视化方法，从而使解释和解释性口径机器学习更加透明。

    Jun, 2023

  • 针对表格数据的学习模型无关反事实解释

    本文提出了一种新的方法 ——C-CHVAE，该方法可以生成可实现的反事实解释，以更好地满足反事实解释的质量要求。

    Oct, 2019

  • 分类模型中预测不确定性的归因

    本文提出一种新的框架，将路径积分、反事实解释和生成模型相结合，以获得包含少量可观察到的人工构件或噪声的归因，并通过对各种复杂度的数据集的流行基准测试进行定量评估，证明这一方法优于现有的替代方法。

    Jul, 2021

  • 模型无关的交互式特征归因提高性能和样本效率

    本文提供了两种流行的解释方法（Occlusion 和 Shapley 值）的模型无关实现，以无限制的交互方式实现不同的属性。利用已纠正的特征归属来生成额外的本地数据，通过在模拟和真实数据实验中展示我们提出的方法如何通过纠正的解释显著提高模型的性能。添加交互式解释以增加活动学习效率，显著优于现有的解释性交互策略。此外，本文探讨了领域专家如何提供足够正确的特征归属来改进模型。

    Jun, 2023

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 生成可信任的模型无关反事实解释的对抗随机森林

    利用对抗式随机森林（ARFs）的生成建模技术，本文以模型独立的方式高效生成可信的反事实解释，克服了现有方法的局限性，包括易于训练、计算高效、自然处理连续和分类数据以及方便集成额外的期望，如稀疏性。

    Apr, 2024

  • 利用反事实解释进行模型重建：缓解决策边界变动

    通过利用虚拟的解释接近决策边界的特点，我们提出了一种称为 Counterfactual Clamping Attack (CCA) 的新型模型提取策略，该策略训练一个使用独特损失函数的代理模型，该损失函数将虚拟解释与普通实例区分对待。我们还通过多胞体理论推导出了模型逼近误差与查询数量之间的新的数学关系。实验证明，我们的策略在几个真实世界数据集上提供了改进的目标和代理模型预测一致性。

    May, 2024