Jul, 2024
可解释人工智能方法的可靠性和稳定性如何?
How Reliable and Stable are Explanations of XAI Methods?
José Ribeiro, Lucas Cardoso, Vitor Santos, Eduardo Carvalho, Níkolas Carneiro...
TL;DR黑盒模型、可解释人工智能方法(XAI 方法)、eXirt、扰动等是本研究的关键词,通过实验和生成解释以评估 XAI 方法的稳定性和可靠性。结果表明,eXirt 能够识别出最可靠的模型,同时发现当前 XAI 方法对扰动敏感,但存在一个特定方法例外。