解释未解释的部分：一种增强类别注意力响应的方法（CLEAR）用于理解深度神经网络

Apr, 2017

解释未解释的部分：一种增强类别注意力响应的方法（CLEAR）用于理解深度神经网络

Explaining the Unexplained: A CLass-Enhanced Attentive Response (CLEAR) Approach to Understanding Deep Neural Networks

Devinder Kumar, Alexander Wong, Graham W. Taylor

TL;DR本研究提出了一种名为CLEAR的方法，该方法集成了注意力机制并能可视化神经网络在决策过程中的决策区域、兴趣等级和相关的最主要类别，实现了对神经网络决策过程更好的深入理解，并在不同数据集上的定量和定性实验中得到了有效性的证明。

Abstract

In this work, we propose class-enhanced Attentive Response (CLEAR): an approach to visualize and understand the decisions made by deep neural networks (DNNs) given a specific input. CLEAR facilitates the