研究了深度学习方法面临的可解释性困境，提出了一种叫做“深度视觉解释”的框架，通过可视化技术来识别和暴露深度学习模型性能行为的假设，以提高模型的可解释性和可调试性，并展示了初步的可解释性应用实验结果。

Nov, 2017

该研究提出了一种基于DeepTracker的可视化分析系统，结合分层索引机制、分层小满足和立体立式可视化等，帮助专家探索CNN训练过程中的丰富动态，更好地理解其过程并加速训练。通过三个案例研究，证明了该系统在训练ResNet-50模型上具有重要作用。

Aug, 2018

通过对深度神经网络的局部解释方法进行研究，发现具有随机初始化权重的DNN与具有学习权重的DNN的解释在视觉和数量上都很相似，可能是因为较低层次的特征被DNN的结构所主导，这对学习到的表示具有极大的影响。

Oct, 2018

CNN Explainer是一个用于学习和检查卷积神经网络的交互式可视化工具，旨在解决初学者在学习CNNs时面临的关键挑战。该工具紧密集成了模型概述和动态视觉解释视图，使用户能够检查低级数学运算和高级模型结构之间的相互作用，并通过平滑的抽象级别转换。通过定性用户研究，发现CNN Explainer可以帮助用户更容易地了解CNNs的内部工作，并且使用起来引人入胜。

Apr, 2020

本论文提出了一种新的双替代可解释性框架，用于解释任何基于CNN的图像分类器所做的决策，该框架不仅提取出潜在特征并把它们与已知“上下文”特征进行对齐，还形成了语义上有意义的概念，用于提取描述“感知”数据生成过程的因果图。

Jul, 2022

提出基于深度卷积神经网络的新型机器学习解释器，融合局部与全局解释框架，以实现对模型性能的更精确理解和监控。该方法可应用于各种卷积神经网络结构，并分析其输入输出关系、特征相关性和过滤器的重要性等关键参数。

Oct, 2022

本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的Adversarial XAI算法AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使XAI方法输出特定解释的目标。

Nov, 2022

本文提出了一个基于概念的后续解释AI框架，通过原型模型不仅传达了每个实例的决策策略(局部)，而且还传达了整体的类别决策策略(全局)，从而降低了对人类长期评估的依赖，并使模型验证成为一个直观且可解释的工具。

Nov, 2023

通过合并深度分类模型生成的解释，研究人员探索了可解释人工智能的潜力，以揭示模型行为的更一致和可靠的模式，进而评估模型所学到的表示。使用选定的Quantus库评估指标，证明该方法在本地化和可信度方面的性能优于单个解释。

Apr, 2024

通过整合不同的解释方法并利用非线性的“解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

May, 2024