ActiVis: 行业规模深度神经网络模型的视觉探索

Apr, 2017

ActiVis: 行业规模深度神经网络模型的视觉探索

ActiVis: Visual Exploration of Industry-Scale Deep Neural Network Models

Minsuk Kahng, Pierre Y. Andrews, Aditya Kalro, Duen Horng Chau

TL;DR本文介绍了一种名为 ActiVis 的交互式可视化系统，可用于解释深度学习模型的大规模数据集，并通过 Facebook 的机器学习平台进行了部署和迭代改进。

Abstract

While deep learning models have achieved state-of-the-art accuracies for many prediction tasks, understanding these models remains a challenge. Despite the recent interest in developing visual tools to help users

deep learning models visual tools interactive visualization system neural network models activis

发现论文，激发创造

TopoAct: 深度学习激活形状的可视化探索

本文使用拓扑数据分析探究深度神经网络内部层的神经元激活，使用 TopoAct 可视化系统展示获取的激活向量的拓扑信息，为深度神经网络学习表示提供有价值的洞见和可视化工具。

Dec, 2019

InterActive：跨层次活跃性传播

本文提出一种名为 InterActive 的算法，通过计算神经元和网络连接的活跃度，在神经网络中向下传播高级上下文，提高低级和中级神经元的描述性能，从而实现了广泛的图像分类。

Apr, 2016

深度可视化理解神经网络

该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。

Jun, 2015

Summit: 通过可视化激活和归因汇总来扩展深度学习的解释性

本研究提出了一种交互式系统 Summit，它使用可扩展的汇总和可视化技术，发现和总结神经网络模型的功能和如何交互以做出预测，从而帮助用户将复杂深度学习模型转化为紧凑而易于理解的可视化，同时可以发现神经网络对于海量图片分类的表示学习进行多方面的分析和未来架构设计的指导。

Apr, 2019

深度学习中的可视化分析：对下一步前沿的问询调查

本文综述了可视化分析在深度学习中的角色，并且结合人类中心疑问框架，着重讨论了为什么、谁、什么、如何、何时和何地，从而全面总结了目前的研究现状，同时提出了未来研究的方向和问题。

Jan, 2018

机器学习模型分析的改进：可视化分析的视角

本研究论文系统地总结了交互模型分析的三大类任务：理解、诊断和改进，旨在帮助用户高效解决实际的人工智能和数据挖掘问题，同时探讨了相关未来研究机会。

Feb, 2017

可解释深度学习的可视化分析

本文回顾了与深度学习可解释性和控制相关的视觉分析、信息可视化和机器学习观点，讨论了潜在的挑战和未来研究方向。

Apr, 2018

特征 CAM：解释性图像分类中的人工智能

我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

Mar, 2024

NeuroDAVIS：一种用于数据可视化的神经网络模型

本文介绍了一种名为 NeuroDAVIS 的无监督深度神经网络模型，用于高维数据的降维和可视化，该模型在大量合成和真实高维数据集上表现出了竞争力，特别是在保留数据大小、形状和本地全局结构方面。

Apr, 2023

通过交互生成数字模式和视觉表示进行神经网络的主动学习

为了改善用户对神经网络的学习和理解，本文设计了一个交互式学习系统，用于实时创建并识别数字模式，并通过可视化技术在二维空间中呈现数字模式的视觉差异和神经网络结果，通过多个数据集的评估和夏季研讨会的非正式用户测试，验证了系统的可用性。

Oct, 2023