May, 2022
用 Riemann-Stieltjes 积分梯度定位从深度网络中得到视觉解释
Visual Explanations from Deep Networks via Riemann-Stieltjes Integrated Gradient-based Localization
Mirtha Lucas, Miguel Lerma, Jacob Furst, Daniela Raicu
TL;DR本文介绍了一种新的用于计算神经网络预测的可视化解释技术,该技术可以在卷积神经网络的任何层上应用,并且不受消失梯度问题的影响,采用 Riemann-Stieltjes 和逼近法进行层级数值梯度积分。与 Grad-CAM 相比,我们算法产生的热图更清晰地聚焦于感兴趣的区域,并且计算更稳定。