AAAIMar, 2021

斜决策树的反事实解释：精确、高效算法

PDF
TL;DR本文以分类树为基础模型，探讨了对于分类模型，如何通过微调特征使其对某个目标分类，进而提供可行的建议来推翻决策，并提供了解决方案，对金融、医疗或法律等领域具有重要意义。
counterfactual explanationsclassifieradversarial examplesclassification treesinterpretability
发现论文，激发创造
  • 基于 Tree 集成的灵活可优化反事实解释解释（FOCUS）

    为了解决机器学习模型的可解释性问题，本研究提出了一种基于梯度优化和概率模型逼近的反事实解释方法，可以适用于不可微模型如树模型，并且该方法得出的反事实案例要优于其他针对树模型的反事实方法。

    Nov, 2019

  • 有关重大决策的通用反事实解释模型

    该研究提出了一种基于形式验证的算法，使用逻辑公式表示距离函数（目标）和预测模型（约束），解决满足性问题生成最接近的反事实解释，能够生成可行的多样化反事实解释来满足 100% 的覆盖率。

    May, 2019

  • 决策森林的快速近似反事实解释

    本文提出一种简单且有效的方法，将寻找分类或回归森林的反事实解释所需的最优化问题限制在由实际数据点填充的森林定义的输入空间区域，并使用某个数据集上的某个距离的最近邻搜索来解决问题。这种解决方式有两个优点：能够快速找到解决方案，并且更有可能是现实的，因为它是引导向输入空间的高密度区域的。

    Mar, 2023

  • 决策、反事实解释与战略行为

    本文旨在在战略环境下寻找最优的政策和对策解释，包括 NP 难的问题，非降性和子模性，用标准贪心算法获得近似保证。最后，我们表明通过将拟阵约束加入问题的制定中，我们可以提高对策解释的最优集合的多样性，并激励整个人口谱上的个体自我改进。

    Feb, 2020

  • 利用反事实解释进行模型重建：缓解决策边界变动

    通过利用虚拟的解释接近决策边界的特点，我们提出了一种称为 Counterfactual Clamping Attack (CCA) 的新型模型提取策略，该策略训练一个使用独特损失函数的代理模型，该损失函数将虚拟解释与普通实例区分对待。我们还通过多胞体理论推导出了模型逼近误差与查询数量之间的新的数学关系。实验证明，我们的策略在几个真实世界数据集上提供了改进的目标和代理模型预测一致性。

    May, 2024

  • 基于梯度的可解释的可计数因果解释方法，使用可管理的概率模型

    本文提出用基于概率模型的渐变计算来解决机器学习模型中反事实样例解释的问题，并通过实验证据证明该方法的优越性。

    May, 2022

  • 树集成中的最优反事实解释

    本文提出了一种基于模型的搜索方法，利用混合整数规划技术生成了对树集的对抗性解释，并通过隔离森林模型针对低异常得分的合理解释进行优化。

    Jun, 2021

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 支持向量机模型的反事实解释

    本研究提出针对线性支持向量机模型的反事实解释算法，旨在增加模型的可解释性，该算法能够改变可操作的特征，并考虑诸多因素，包括特征之间的相关性以及其对数据分布的影响，此外，本研究还引入了两种新型的度量反事实解释质量的无尺度代价函数，并用实际的医学数据集来验证该算法的有效性，最后，在对律师资格考试数据集进行研究后，运用提出的算法发现了支持向量机所固有的偏见。

    Dec, 2022