概念树：更可解释的代理决策树的高级变量表示

ICMLJun, 2019

概念树：更可解释的代理决策树的高级变量表示

Concept Tree: High-Level Representation of Variables for More Interpretable Surrogate Decision Trees

Xavier Renard, Nicolas Woloszko, Jonathan Aigrain, Marcin Detyniecki

TL;DR我们提出了一种模型无关的可解释替代方案，用于全局和局部解释黑盒分类器。该替代方案使用相关系数自动发现变量的直观分组，并将其嵌入到替代决策树中，以提高其可理解性。在宏观经济数据库上的实验结果表明，在保持替代模型准确性和保真度的同时，该方案提高了人类可解释性。

Abstract

interpretable surrogates of black-box predictors trained on high-dimensional tabular datasets can struggle to generate comprehensible explanations in the presence of correlated variables. We propose a model-agnos

interpretable surrogates black-box predictors concept embeddings surrogate decision tree human-interpretability

发现论文，激发创造

通过模型提取方法解释黑匣子模型

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

利用人类反馈学习可解释的基于概念的模型

提出了一种透明的机器学习模型学习方法，使用用户的反馈来标记概念特征，从而生成透明的概念定义，以提高模型的可解释性和预测性能。

Dec, 2020

借助基于模型的树作为可解释的替代模型进行模型蒸馏

使用模型树作为替代模型，将特征空间通过决策规则划分为可解释的区域，然后利用基于加性主效应的可解释模型来近似黑盒模型的行为，平衡可解释性和性能，对比了四种模型树算法，最后提供了用户特定的推荐概述。

Oct, 2023

基于原型引导的可解释反事实解释

使用类原型的快速、模型无关方法可以找到分类器预测的可解释因果关系解释，并且该方法通过两个新的度量标准在实例级别上定量评估局部可解释性。该方法在图像数据集 MNIST 和表格数据集 Breast Cancer Wisconsin（Diagnostic）上得到了有效的验证，同时消除了由于数值梯度评估而产生的计算瓶颈。

Jul, 2019

一种可解释性近似理论

通过简单特征的决策树是否能够逼近深度神经网络的问题，以及该问题的变体，正是对可由人类解释的机器学习模型不断增长的需求。本文通过引入可解释逼近的概念来研究这些问题，这一概念捕捉了通过一些基类概念的小聚合来逼近目标概念 c 的想法。我们的主要贡献是：对于给定的 H 和 c，对于任何给定的 pair，只有下列三种情况之一成立：(i) c 无法以任意精度通过 H 来逼近；(ii) c 可以以任意精度通过 H 来逼近，但不存在一种普遍的速率来限制逼近的复杂度与精度之间的关系；或者 (iii) 存在一个只依赖于 H 和 c 的常数 kappa，对于任何数据分布和任何期望的精度水平，c 可以通过 H 来逼近，并且复杂度不超过 kappa。这种分类法与监督分类的情况形成鲜明对比，后者提供了复杂的分布自由和普遍可学习的场景。我们表明，在可解释逼近的情况下，即使对逼近的复杂度有一个略微非平凡的先验保证，也可以得到具有常数（与分布和精度无关）复杂度的逼近。我们将我们的分类法扩展到具有无界 VC 维度的类 H，并给出了基于 H 生成的代数的可解释性的特征。

Jun, 2024

概念解释估计应该具备不确定性意识

用可理解的人类概念来解释模型的全局解释的不稳定性问题以及提出了一种基于不确定性的贝叶斯估计方法，可以提高概念解释的可靠性。

Dec, 2023

可解释的局部树代理策略

本论文提出一种构建可预测的决策树代替神经网络的方法，决策树易于人类理解，能够量化预测未来行为，从而提高决策的可信度和使用范围。

Sep, 2021

层次代理规则集在机器学习模型行为可视化探索中的应用

本研究提出了一种包括层级代理规则和可交互的代理规则可视化的工作流程，用于解释模型。使用可视化方法来解决规则可视化的问题，并评估了算法的参数灵敏度和时间性能，以及可用性研究。

Jan, 2022

可解释聚类的最优决策树

本文提出了一种新的基于 SAT 的可解释聚类框架，支持聚类约束，同时提供强有力的解决方案质量理论保证，并给出了关于解释性和满足用户约束之间权衡的新见解。

Jan, 2023

使用高影响概念解释语言模型的预测

本文提出了一个完整的框架，将基于概念的解释性方法扩展到 NLP 领域，提出了一种后期解释性方法，从预训练模型的隐藏层激活中提取具有预测高水平特征（概念），优化具有高影响力的特征的存在，设立了多种评估指标。在真实和合成任务上的广泛实验表明，与基线相比，我们的方法在预测影响、可用性和忠实度方面都取得了卓越的结果。

May, 2023