May, 2024
增强可解释人工智能:结合 GradCAM 和 LRP 的混合方法用于 CNN 的解释性
Enhancing Explainable AI: A Hybrid Approach Combining GradCAM and LRP for CNN Interpretability
Vaibhav Dhore, Achintya Bhat, Viraj Nerlekar, Kashyap Chavhan, Aniket Umare
TL;DR通过结合 GradCAM 和 LRP 方法,我们提出了一种新的技术来解释基于 CNN 的模型的输出。在这种方法中,首先对 GradCAM 方法产生的解释进行处理以去除噪声,然后将处理后的输出与 LRP 的输出逐元素相乘,最后对乘积应用高斯模糊。通过 Faithfulness、Robustness、Complexity、Localisation 和 Randomisation 等指标我们将该方法与 GradCAM 和 LRP 进行比较,发现该方法在 Complexity 方面性能更好,并且在其他指标中至少比其中一种方法表现更好。