AAAIMar, 2023

决策森林的快速近似反事实解释

PDF
TL;DR本文提出一种简单且有效的方法，将寻找分类或回归森林的反事实解释所需的最优化问题限制在由实际数据点填充的森林定义的输入空间区域，并使用某个数据集上的某个距离的最近邻搜索来解决问题。这种解决方式有两个优点：能够快速找到解决方案，并且更有可能是现实的，因为它是引导向输入空间的高密度区域的。
counterfactual explanationclassificationregression forestoptimization problemnearest-neighbor search
发现论文，激发创造
  • 斜决策树的反事实解释：精确、高效算法

    本文以分类树为基础模型，探讨了对于分类模型，如何通过微调特征使其对某个目标分类，进而提供可行的建议来推翻决策，并提供了解决方案，对金融、医疗或法律等领域具有重要意义。

    Mar, 2021

  • 树集成中的最优反事实解释

    本文提出了一种基于模型的搜索方法，利用混合整数规划技术生成了对树集的对抗性解释，并通过隔离森林模型针对低异常得分的合理解释进行优化。

    Jun, 2021

  • 基于 Tree 集成的灵活可优化反事实解释解释（FOCUS）

    为了解决机器学习模型的可解释性问题，本研究提出了一种基于梯度优化和概率模型逼近的反事实解释方法，可以适用于不可微模型如树模型，并且该方法得出的反事实案例要优于其他针对树模型的反事实方法。

    Nov, 2019

  • 利用随机森林相似度距离阐明特征贡献

    通过观察输入的变化如何映射到决策空间中的实例的移动，随着输入的改变将特定的实例靠近内部组或外部组，可以揭示每个要素的独立贡献，从而计算特征对于决策过程的贡献，这使得黑盒决策的解释成为可能。

    Jul, 2018

  • 基于比较的随机森林

    本论文提出了一个基于三元组比较的新型随机森林算法，用于度量空间中的数据回归和分类，不需要数据点的距离或具体表示方法，并证明其与其他直接访问数据表示的方法相当竞争力强。

    Jun, 2018

  • 随机优化森林

    本文研究了背景下的随机优化问题，提出了一种基于森林决策策略的解决方案，通过开发近似分裂准则，我们能够有效降低运行时间，并在性能上接近于每个候选分裂都进行重新优化的森林算法.

    Aug, 2020

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • 提升随机森林的本地可解释性：一种基于邻近性的方法

    通过利用随机森林模型中的特征空间中的点之间的相似性，我们提出了一种新的方法来解释随机森林的样本外表现，这使得随机森林的预测可以准确地重写为训练数据点目标标签的加权平均值，并为模型预测生成任何观测的归因，从而补充了 SHAP 等现有的针对模型预测在特征空间维度上生成的归因的方法。我们在美国公司债券交易的债券定价模型的背景下演示了这种方法，并将其与各种现有的模型可解释性方法进行了比较。

    Oct, 2023

  • 树状提升集成的预测解释

    本文介绍了如何生成树型集成学习（特别是梯度提升决策树）的本地解释，以便理解黑盒子模型的预测。作者提出了一种方法，可以对于正确预测的实例生成对抗解释，来研究模型的敏感性。与现有方法不同，这个方法可以在保持原有结构和准确性的情况下为 GBDT 提供解释。

    Jul, 2019

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022