KDDNov, 2021

SMACE：一种复合决策系统可解释性的新方法

PDF
TL;DR本文介绍了一种新的解释性方法，即 Semi-Model-Agnostic Contextual Explainer (SMACE)，用于将多个机器学习模型的预测结果和决策规则相结合。SMACE 采用一种几何方法来生成决策规则，结合现有的机器学习模型的解释性方法来生成一个适合最终用户的直观特征排名。该研究表明，目前已有的模型无关方法在此设置中产生的结果较差，而 SMACE 可以对特征进行有意义的排名。
interpretabilitdecision systemsmachine learning modelssmacefeature ranking
发现论文，激发创造
  • 用 SMILE 解释黑盒子：局部解释的统计模型无关可解释性

    机器学习的可信度与解释性是当前发展的重点，提升可信度的关键在于解释性，我们提出了 SMILE 方法，利用统计距离度量来提高解释性，并适用于各种数据领域。

    Nov, 2023

  • 机器学习模型的本地可解释模型无关 Shap 解释

    提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

    Oct, 2022

  • MACE：一个高效的模型无关框架用于因果解释

    提出了一种新的框架 Model-Agnostic Counterfactual Explanation (MACE)，通过采用一种新设计的流水线来有效处理大量特征值上的非可分机器学习模型，其中包括使用基于 RL 的方法来找到良好的对策例子和梯度下降方法来改进相似性。公共数据集上的实验证实了该方法的有效性，具有更好的准确性、稀疏性和相似性。

    May, 2022

  • McXai: 两个博弈作为本地模型无关解释

    本文介绍一种基于强化学习技术的可解释人工智能方法，称为 McXai，以解释任何黑盒分类模型的决策。该方法使用 Monte Carlo 树搜索对生成解释的过程进行建模，并利用两个游戏来找到支持分类器决策的特征集合和导致替代决策的特征集合。最终呈现为一棵树形结构，每个节点表示一个要研究的特征集，能够找到比 LIME 和 SHAP 更具信息性的特征，并且能够指出误导特征，从而提高黑盒模型的鲁棒性。

    Jan, 2022

  • 监督式机器学习可解释性调查

    该综述论文提供了解释性监督机器学习的基本定义、原则和方法，并对过去和最近的解释性机器学习方法进行了分类和综述。通过解释性案例研究阐明了原则，并讨论了重要的未来方向。

    Nov, 2020

  • 结构化数据的模型无关对比解释

    提出了一种模型无关对比解释方法（MACEM），旨在对任何分类模型生成对比解释，该方法处理实际和分类特征，提出了计算相应正例和反例的新方法，并通过 5 个公共数据集的定量和定性验证来证明该方法的有效性。

    May, 2019

  • 机器学习解释的艺术与科学

    本文讨论超越传统误差测量和图形评估机器学习模型的几种通用的解释方法，包括决策树模型、个体条件期望、局部可解释模型无关解释、偏置度量图和 Shapley 解释；并提供现实应用建议和公共软件示例以复现性检验。

    Oct, 2018

  • 自动基于概念的解释

    提出了概念解释的原则和求解算法 ACE，能够系统性地通过可视化概念提供对深度神经网络预测的重要性的人类可解释性解释。

    Feb, 2019

  • 解释模型预测的统一方法

    研究为什么一个模型做出某个特定的预测与预测准确性一样重要，然而对于像集成或深度学习模型这样的复杂模型，即使是专家也难以解释其高精度，因此需要各种方法来帮助解释预测，其中一个新方法，SHAP（Shapley Additive Explanations），通过为每个特征指定一个重要性值来解释预测。

    May, 2017

  • 模型无关的监督式本地解释

    MAPLE 是一种新颖的模型解释系统，使用局部线性建模技术和随机森林的双重解释，提供黑盒解释，并兼具高精度的预测模型和优越的局部解释能力。

    Jul, 2018