TL;DR通过理解人类认知中心的特点,提出了使用 “上下文重要性和效用(Contextual Importance and Utility method)” 等方法去实现可解释的 AI 决策。
Abstract
When human cognition is modeled in Philosophy and Cognitive Science, there is
a pervasive idea that humans employ mental representations in order to navigate
the world and make predictions about outcomes of futur
本文提出了一个新理论,支持可解释 AI(XAI)方法的情境重要性和效用(CIU)。CIU 算法基于多属性效用理论的概念,为 CIU 提供了坚实的理论基础。同时,也定义了新颖的情境影响概念,使 CIU 能够直接与模型无关的加法特征归因方法进行比较。实验表明,使用 CI 和 CU 的解释可以产生 CIU 方法解释失败的影响方法解释。此外,还表明 CI 和 CU 保证向解释模型的说明忠实。