May, 2024
CFGs: 基于目标导向 ASP 方法的因果约束的反事实解释
CFGs: Causality Constrained Counterfactual Explanations using goal-directed ASP
Sopam Dasgupta, Joaquín Arias, Elmer Salazar, Gopal Gupta
TL;DR自动决策的机器学习模型在贷款批准、预审保释批准和雇佣等重要领域中越来越常见。然而，大多数这些模型都是黑盒子，即无法透露如何做出预测决策的过程。因此，有必要提供解释来满足透明度需求，并使人们了解为何做出某个决策。我们的研究侧重于生成反事实解释的后问题，通过考虑特征之间的因果关系来解决。本文提出了 CFGs 框架，即 CounterFactual Generation with s (CASP)，它利用目标导向的 ASP 系统 s (CASP) 从基于规则的机器学习算法生成的模型中自动生成反事实解释。我们使用 FOLD-SE 模型对 CFGs 进行了基准测试，通过一系列干预来计划并实现从初始状态到反事实状态的转换。为了验证我们的提案，我们展示了如何计算和证明反事实解释，通过想象某些或所有事实假设被改变的世界。更重要的是，我们展示了 CFGs 在这些世界之间的导航能力，即从我们的初始状态（获得了不希望的结果）到想象中的目标状态（获得了期望的决策），考虑到特征之间的因果关系。