可解释的人工智能：理解、可视化和解释深度学习模型 | BriefGPT - AI 论文速递

Aug, 2017

可解释的人工智能：理解、可视化和解释深度学习模型

Explainable Artificial Intelligence: Understanding, Visualizing and Interpreting Deep Learning Models

Wojciech Samek, Thomas Wiegand, Klaus-Robert Müller

TL;DR基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

Abstract

With the availability of large databases and recent improvements in deep learning methodology, the performance of AI systems is reaching or even exceeding the human level on an increasing number of complex tasks. Impressive examples of this development can be found in domains such as image cl

deep learning interpretability artificial intelligence explanation classification

发现论文，激发创造

面向可解释的人工智能

本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

Sep, 2019

可解释人工智能（XAI）综述：面向医疗 XAI

这篇论文概述了解释机器学习算法决策的不同方法，并将它们应用到医学研究中，以提高医生对这些算法的信任度。

Jul, 2019

可解释深度学习的可视化分析

本文回顾了与深度学习可解释性和控制相关的视觉分析、信息可视化和机器学习观点，讨论了潜在的挑战和未来研究方向。

Apr, 2018

深度神经网络的理解、可视化和解释调查

该篇论文综述了深度神经网络在机器学习中的应用，针对一些需要保证安全性的决策（如控制系统和医疗应用），介绍了当前解释性人工智能（XAI）领域的研究，探究和解释 DNNs 内部和整体行为的方法。

Feb, 2021

解释解释：机器学习的可解释性概述

有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

May, 2018

构建医学领域可解释的 AI 系统需要什么？

本篇论文介绍了医学领域中解释性人工智能的研究，强调让人们能够透明地理解和信任 AI/ML 技术的重要性，主要关注于图像、* 组学数据和文本三个方面。

Dec, 2017

深入探索神经影像中可解释深度学习的综合调查

本文综述了神经影像领域中可解释深度学习模型的当前状态和应用，讨论了其相关方法、挑战和意见，以及如何利用模型解释性捕捉与模型预测相关的解剖和功能性大脑变化，最后讨论了当前做法的局限性，并提供了有关如何引导未来研究方向以使深度学习模型更加可解释并推进对脑疾病科学理解的宝贵见解和指导。

Jul, 2023

以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

Dec, 2023

自说明人工智能作为可解释人工智能的替代方案

本研究提出了一种自我解释的 AI 的概念，它能够解释其决策的机制并提供信心水平，但由于深度神经网络的双下降现象，训练复杂真实世界数据的神经网络难以解释和外推，因此深度学习系统需要包括特定预警来保证其应用的安全性。

Feb, 2020

可解释人工智能：系统综述

这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

May, 2020