May, 2023

可解释人工智能综述以及解释工程学科的提出

PDF
TL;DR本文探讨可解释人工智能（XAI）领域，讨论解释的含义和现有方法并归纳最受欢迎的分类方法，探讨在金融、自动驾驶、医疗保健和制造业等四个主要领域中使用这些方法的应用，并介绍包括一种系统性方法来设计可解释性在内的 AI 系统的新兴领域 “解释工程”。
explainable artificial intelligencexaiexplanationtaxonomyexplanation engineering
发现论文，激发创造
  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 基于概念的可解释人工智能综述

    通过对 C-XAI 方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 基于深度学习的医学图像分析中的可解释人工智能（XAI）

    本文调查了可解释人工智能 (XAI) 在基于深度学习的医学图像分析中的应用，提出了一个 XAI 标准框架来分类这些基于深度学习的方法，根据解释方法和解释结构将应用于医学图像分析中的 XAI 技术进行了分类，并按解剖位置进行了整理，并给出了未来在医学图像分析中 XAI 的机会的展望。

    Jul, 2021

  • 可解释人工智能系统设计和评估的多学科调查和框架

    本文旨在分享跨学科 XP 机器学习设计和评估方法的知识和经验，并提出了 XP 智能系统设计目标和评估方法的分类以支持 XP 研究的多样性设计目标和评估方法。我们为不同 XP 用户组的设计目标和其评估方法之间的映射提供了一个分类，以及一系列的设计指南和与之相对应的评估方法，从而关闭多学科 XP 团队的迭代设计和评估循环。

    Nov, 2018

  • 标准化可解释性的必要性

    本研究的目的是对可解释性（Explainable AI，XAI）领域的现状提供一个视角，并提供解释性和可解释性的新定义，以开始标准化这个研究领域。研究提供了可解释性文献的概述和现有方法的概述，最后提供了不同可解释性方法的初步分类法，为未来的研究打开了大门。

    Oct, 2020

  • 可解释人工智能 (XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了 XAI 面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了 “负责任人工智能” 的概念，在其中强调了 AI 方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019