IJCAIJul, 2022
反事实解释 —— 无关因素对 AI 系统解释的相关性
Alterfactual Explanations -- The Relevance of Irrelevance for Explaining AI Systems
Silvan Mertes, Christina Karle, Tobias Huber, Katharina Weitz, Ruben Schlagowski...
TL;DR提出一种新型的 AI 决策解释方法,即 Alterfactual Explanations,与传统的 Counterfactual Thinking 方法相比,该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景,大幅提升了用户理解 AI 决策过程的效果。