树状提升集成的预测解释

SIGIRJul, 2019

Explaining Predictions from Tree-based Boosting Ensembles

Ana Lucic, Hinda Haned, Maarten de Rijke

TL;DR本文介绍了如何生成树型集成学习（特别是梯度提升决策树）的本地解释，以便理解黑盒子模型的预测。作者提出了一种方法，可以对于正确预测的实例生成对抗解释，来研究模型的敏感性。与现有方法不同，这个方法可以在保持原有结构和准确性的情况下为 GBDT 提供解释。

Abstract

Understanding how "black-box" models arrive at their predictions has sparked significant interest from both within and outside the AI community. Our work focuses on doing this by generating local explanations about individual predictions for tree-based ensembles, specifically Gradient Boosting Decision Trees (GBDTs). Given a correctly predicted instance in t

black-box models gradient boosting decision trees counterfactual explanation model-agnostic random forests

发现论文，激发创造

在梯度提升树中实现本地可解释性：特征贡献

GBDT 模型是一种基于树集合的强大的加性模型，本文开发了一种特征贡献方法，通过利用 GBDT 架构来计算每个特征的贡献，从而提供了一种对 GBDT 算法进行局部可解释性的模型。该方法在理论证明和多个实验中得到了验证，并且既能反映 GBDT 的内部行为也符合欧洲 GDPR 等相关法律的要求。

Feb, 2024

基于 Tree 集成的灵活可优化反事实解释解释（FOCUS）

为了解决机器学习模型的可解释性问题，本研究提出了一种基于梯度优化和概率模型逼近的反事实解释方法，可以适用于不可微模型如树模型，并且该方法得出的反事实案例要优于其他针对树模型的反事实方法。

Nov, 2019

寻找优秀的训练样本以提升梯度提升决策树的效果

解决了如何在树集合模型中找出影响力训练样本的问题，并对扩展该方法以适用于非参数模型提出了几种方法。实验证明，本方法不仅性能良好，而且计算效率高。

Feb, 2018

Boosted Trees 的归纳解释计算

介绍了一种用于 Boosted Tree 模型中的推导解释生成的新方法，称为树特定解释，可以在多项式时间内计算，实验证明该方法具有较高的可扩展性。

Sep, 2022

树集成中的最优反事实解释

本文提出了一种基于模型的搜索方法，利用混合整数规划技术生成了对树集的对抗性解释，并通过隔离森林模型针对低异常得分的合理解释进行优化。

Jun, 2021

通过模型提取方法解释黑匣子模型

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

基于树形集成的稳健反事实解释

本文利用 RobX 策略生成树模型集合的鲁棒性反事实解释，并使用 Counterfactual Stability 度量方法评估这些解释的稳健性。结果表明，与现有的最先进的方法相比，我们的策略生成的反事实解释显著更加鲁棒和真实。

Jul, 2022

树状可解释人工智能：从局部解释到全局理解

通过运用博弈论、局部特征交互作用效应和全局模型结构，我们实现了对基于树的机器学习模型的高可解释性，应用于三个医疗机器学习问题，在透露模型全局结构的同时保持其基本特征，识别出美国人口中高强度但低频率的非线性死亡风险因素，突显具有共同危险特征的明显人口亚组，识别出慢性肾脏疾病危险因素之间的非线性交互作用效应，并监测在医院部署的机器学习模型（Identifying factors leading to model's performance decay over time）

May, 2019

基于可操作特征调整的树形集成模型可解释预测

本文提供一种利用基于树的集成分类器内部的技术来将真负实例转化为正例的推荐算法，通过在线广告应用程序证明了方法的有效性。

Jun, 2017

利用机器去学习的方式为随机森林提供基于实例的解释

通过利用机器反学习方法，FairDebugger 能够识别造成随机森林分类器结果不公平的训练数据子集，并生成前 k 个解释（以一致的训练数据子集形式）来解释模型的不公平行为。

Feb, 2024