该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。

Jun, 2015

本文介绍了 GAN Lab，这是第一个面向非专家的交互式可视化工具，旨在帮助用户学习和实验复杂的深度学习模型，它紧密集成了模型概述图和分层分布图，具有与多个抽象级别的逐步训练等新型交互式实验特性。GAN Lab 使用 TensorFlow.js 实现，可以通过现代 Web 浏览器访问，无需安装或专用硬件。

Sep, 2018

该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

Feb, 2021

我们展示了一种虚拟现实工具，利用手势和运动自动将数据输入分配到不同类别，实现了深度神经网络在透明度方面的可视化和加速了最终用户开发深度学习应用的过程。

May, 2023

本文探讨了在机器学习领域，数据注释的重要性以及利用神经网络的潜在空间和图形用户界面的坐标之间的类比来进行数据注释的新方法，并对网络模型进行了调整以获得更紧凑的图形表示和讨论了模型超参数对抽取图形表示的影响。

May, 2023

本文综述了可视化分析在深度学习中的角色，并且结合人类中心疑问框架，着重讨论了为什么、谁、什么、如何、何时和何地，从而全面总结了目前的研究现状，同时提出了未来研究的方向和问题。

Jan, 2018

本文回顾了与深度学习可解释性和控制相关的视觉分析、信息可视化和机器学习观点，讨论了潜在的挑战和未来研究方向。

Apr, 2018

提出了使用可视化简化技术的交互式可视化系统，并将其集成到开源的 DNN 可视化工具包 MindInsight 中，以帮助减少计算图的元素，增强识别和诊断 DNN 模型的性能。

Dec, 2022

该论文的研究内容主要涵盖了人工智能、深度神经网络、可解释 AI、视知觉技术以及深度模型的调试等领域。论文提出的 Perception Visualization 技术通过可视化深度模型对于输入图像的感知来解释模型预测结果，研究发现人类能够更好地理解和预测系统决策，从而使深度模型的调试和部署更加可靠。

Apr, 2022

CNN Explainer 是一个用于学习和检查卷积神经网络的交互式可视化工具，旨在解决初学者在学习 CNNs 时面临的关键挑战。该工具紧密集成了模型概述和动态视觉解释视图，使用户能够检查低级数学运算和高级模型结构之间的相互作用，并通过平滑的抽象级别转换。通过定性用户研究，发现 CNN Explainer 可以帮助用户更容易地了解 CNNs 的内部工作，并且使用起来引人入胜。

Apr, 2020