本文介绍了一种预测差异分析方法，能够针对深度神经网络对输入的响应进行可视化，突出给定输入图像中支持或反对某个类别的区域，该方法克服了以前方法的一些缺点，并提供了有关分类器决策过程的重要见解，对于改进模型并加快黑盒分类器在医学等应用领域的采用很重要。本研究在自然图像（ImageNet 数据）和医疗图像（MRI 脑部扫描）上进行实验来说明该方法。

Feb, 2017

该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。

Jun, 2015

本文提出了一种用于验证神经网络的可视化解释方法，该方法基于优化技术，通过过滤梯度来防止对抗证据。这种方法可以提供细粒度、可解释的图像细节证据，并可针对多个模型和数据集进行定性和定量评估。

Aug, 2019

本文综述了通过 Activation Maximization、Network Inversion、Deconvolutional Neural Networks (DeconvNet) 以及 Network Dissection 等可视化手段实现 CNN 可解释性的方法，并探讨了这些方法在网络设计、优化和安全增强等领域中的实际应用价值。

Apr, 2018

该研究提出了一种新的系统框架，用于可视化深度网络中的信息流，通过在给定的测试图像中生成与给定解释有关的紧凑支持，该方法具有计算效率和数值稳健性，并提供了几个初步的数值结果，支持我们的框架优于现有方法的好处。

Nov, 2017

本论文提出了一种基于可视化分析的方法，以更好地理解、诊断和改进深度卷积神经网络，并使用一些新的算法和技术来显示神经元和神经元群之间的多个方面和交互作用。

Apr, 2016

本研究提出了一种可解释的方法，能够可视化神经网络中的内在机制和其对输出的影响，从而提高了深度神经网络的可解释性和决策过程，研究的主要贡献是提出了一种数据集中心的算法，适用于多个领域的深度神经网络结构。

Jun, 2017

本文采用深度学习技术实现 Click-through rate（CTR）预测，并采用神经元级别检查模型内部状态，实施逐层性能测量探针方法，以及基于反向传播梯度的显著性分数计算来计算特征的影响。该模型可用于理解，监视，诊断和改进模型和算法的多个实际应用。

Jun, 2018

介绍了一种新的可视化技术，通过消融研究得出了超越 Krizhevsky 等在 ImageNet 分类基准上的模型架构，其 ImageNet 模型表现优异并且泛化性良好，可以轻松地在其他数据集上取得优异的分类效果。

Nov, 2013

该论文研究了使用深度卷积网络 (ConvNets) 学习的图像分类模型的可视化，提出了两种基于计算类别分数相对于输入图像的梯度的可视化技术，能够最大化类别得分或计算类别显著图以进行对象分割，最后建立起梯度卷积网络可视化方法和反卷积网络之间的联系。

Dec, 2013