深度神经网络解释

Oct, 2020

Explaining Deep Neural Networks

Oana-Maria Camburu

TL;DR研究了两种深度神经网络解释说明的主流方向，一种是基于特征的事后解释方法，另一种是自解释的神经网络模型，并生成自然语言解释。

Abstract

deep neural networks are becoming more and more popular due to their revolutionary success in diverse areas, such as computer vision, natural language processing, and speech recognition. However, the decision-making processes of these models are generally not interpretable to users. In

deep neural networks explanatory methods feature-based self-explanatory neural models natural language explanations

发现论文，激发创造

深度神经网络的理解、可视化和解释调查

该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

Feb, 2021

可解释的深度学习：初学者的指南

本文提供了一份指南，让初学者可以更轻松地掌握可解释深度学习的基础方法和相关研究领域，介绍了三个定义了基础方法空间的简单维度、讨论了模型解释的评估以及可解释性在其他相关研究领域中的位置，并详细阐述了面向用户的解释设计和可解释深度学习可能的未来方向。

Apr, 2020

计算机视觉黑匣子深度神经网络解释器分析：综述

探讨各种用于计算机视觉任务的深度神经网络的解释器和解释系统，比较了几篇有关可解释性的调查论文，并归纳出了进一步的研究方向。

Nov, 2019

深度神经网络及其相关方法和应用综述

本文概述了新兴的解释型 AI 领域，着重介绍了 “事后” 解释，从理论和比较评估的角度对解释算法进行测试并总结最佳应用实践，在代表性应用场景中成功使用可解释的 AI，并讨论其未来挑战和方向。

Mar, 2020

人工神经网络可解释性调研

该论文系统地回顾了近期研究的理解神经网络机理、解释深度学习应用特别是在医疗领域方面以及讨论了解释性研究的未来方向，如与模糊逻辑和脑科学的关系。

Jan, 2020

使用大型模型对深度视觉神经元进行自动化自然语言解释

通过研究神经元来解释深度神经网络并生成语义解释，以解决目前在此方面的限制、缺乏可伸缩性和适用性的问题。

Oct, 2023

自说明人工智能作为可解释人工智能的替代方案

本研究提出了一种自我解释的 AI 的概念，它能够解释其决策的机制并提供信心水平，但由于深度神经网络的双下降现象，训练复杂真实世界数据的神经网络难以解释和外推，因此深度学习系统需要包括特定预警来保证其应用的安全性。

Feb, 2020

可解释的人工智能：理解、可视化和解释深度学习模型

基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

Aug, 2017

面向可解释的人工智能

本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

Sep, 2019

语言模型的可视化与解释

本文介绍了一些最流行的自然语言处理的深度学习可视化技术，并强调其可解释性和可解释性。

Apr, 2022