saliency maps have become one of the most widely used interpretability
techniques for convolutional neural networks (CNN) due to their simplicity and
the quality of the insights they provide. However, there are s
本研究提出了一种针对深度卷积神经网络的可解释性 AI 显著性图方法,其比流行的高分辨率梯度方法更为高效,并且在精度上也与其相当或更好。通过使用 Layer Ordered Visualization of Information,展示了该方法比其他显著性图方法提供更有趣的网络规模内比例贡献比较。此外,该方法在资源有限的平台上如机器人、手机、低成本工业设备、天文和卫星图像等方面是可行的。