深度视觉解释简介

NIPSNov, 2017

An Introduction to Deep Visual Explanation

Housam Khalifa Bashier Babiker, Randy Goebel

TL;DR研究了深度学习方法面临的可解释性困境，提出了一种叫做 “深度视觉解释” 的框架，通过可视化技术来识别和暴露深度学习模型性能行为的假设，以提高模型的可解释性和可调试性，并展示了初步的可解释性应用实验结果。

Abstract

The practical impact of deep learning on complex supervised learning problems has been significant, so much so that almost every Artificial Intelligence problem, or at least a portion thereof, has been somehow recast as a deep learning problem. The applications appeal is significant, b

deep learning explainability debuggability visualization interpretability

发现论文，激发创造

深度神经网络的理解、可视化和解释调查

该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

Feb, 2021

面向可解释的人工智能

本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

Sep, 2019

计算机视觉黑匣子深度神经网络解释器分析：综述

探讨各种用于计算机视觉任务的深度神经网络的解释器和解释系统，比较了几篇有关可解释性的调查论文，并归纳出了进一步的研究方向。

Nov, 2019

可解释的人工智能：理解、可视化和解释深度学习模型

基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

Aug, 2017

可解释深度学习的可视化分析

本文回顾了与深度学习可解释性和控制相关的视觉分析、信息可视化和机器学习观点，讨论了潜在的挑战和未来研究方向。

Apr, 2018

感知可视化：透过深度神经网络的视角看世界

该论文的研究内容主要涵盖了人工智能、深度神经网络、可解释 AI、视知觉技术以及深度模型的调试等领域。论文提出的 Perception Visualization 技术通过可视化深度模型对于输入图像的感知来解释模型预测结果，研究发现人类能够更好地理解和预测系统决策，从而使深度模型的调试和部署更加可靠。

Apr, 2022

通过解释进行视觉说明：提高深度神经网络视觉反馈能力

本文提出了一种基于内部特征及可视化的方法，能够自动识别预先训练模型中与给定类相关的特征，以进行深度模型的解释和阐释，并且提出了一种针对 deconvNet 可视化操作引入的伪像问题的方法，同时还提出了一个专门用于视觉解释方法客观定量评估的数据集 an8Flower。实验证明，该方法在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上能够产生具有良好主题相关特征覆盖的详细解释。

Dec, 2017

可解释的深度学习：初学者的指南

本文提供了一份指南，让初学者可以更轻松地掌握可解释深度学习的基础方法和相关研究领域，介绍了三个定义了基础方法空间的简单维度、讨论了模型解释的评估以及可解释性在其他相关研究领域中的位置，并详细阐述了面向用户的解释设计和可解释深度学习可能的未来方向。

Apr, 2020

计算机视觉中鲁棒性和可解释模型的深度学习

最近在机器学习和深度学习研究领域的重大突破为利用海量数据和优化包含数百万参数的庞大模型以获得图像处理方面的准确网络提供了出色的工具，进而为在自动化和人工智能行业中使用人工智能打开了巨大的机遇。然而，随着越来越多的模型在实践中得到部署和使用，也出现了许多挑战。本文介绍了解决在实践中使用机器学习和深度学习所面临的鲁棒性和可解释性挑战的多种方法。

Mar, 2024

可解释方法中的婴儿大脑注意力方式

该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

Jan, 2023