Aug, 2024

可解释人工智能：需求、技术、应用与未来方向的调查

HTML
PDF
TL;DR该研究针对人工智能模型在安全关键领域（如医疗、金融和自动驾驶）中的“黑箱”特性，探讨了可解释人工智能（XAI）的必要性和现状。本文通过全面的文献综述，填补了关于XAI模型的数学表述和设计方法论的空白，旨在提升AI模型的可信性、透明性、责任性和公平性。
发现论文，激发创造
  • 可解释人工智能(XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了XAI面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了“负责任人工智能”的概念，在其中强调了AI方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能(XAI)的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的AI系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 可解释人工智能(XAI)中的机遇与挑战: 一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的AI系统提供方向和未来研究方向，有助于在高风险应用中采用AI。

    Jan, 2021

  • 可解释人工智能（XAI）在物联网中的应用调查

    本文针对黑盒子人工智能模型存在的不可解释性问题，在物联网领域提供了一些可解释的人工智能模型的系统性研究和分类，同时探讨了一些挑战性问题和未解决问题，并给出了未来发展方向。

    Jun, 2022

  • 用户中心XAI的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 可解释人工智能综述以及解释工程学科的提出

    本文探讨可解释人工智能（XAI）领域，讨论解释的含义和现有方法并归纳最受欢迎的分类方法，探讨在金融、自动驾驶、医疗保健和制造业等四个主要领域中使用这些方法的应用，并介绍包括一种系统性方法来设计可解释性在内的AI系统的新兴领域“解释工程”。

    May, 2023

  • 机器学习生命周期中可解释人工智能的千变万化：工业现实与研究现状

    该研究考察了可解释人工智能（XAI）在实际中的相关性，特别关注生产行业，并将其与当前学术XAI研究进行了比较。通过对多个行业中的各种职位和关键利益相关者进行广泛访谈，我们发现了XAI在当前工业实践中沿着机器学习（ML）生命周期的应用和未来的相关性。与当前研究方法相比，我们的访谈结果揭示出一些差异。虽然存在多种不同的XAI方法，但其中大多集中在模型评估阶段和数据科学家上。其他阶段的多样化功能目前要么未被充分探索，要么在实践者中不流行。与现有研究一致，我们的研究也确认了需要更多的努力来使非专业用户能够理解和解释不透明的AI模型，使用现有的方法和框架。

    Oct, 2023

  • 可解释人工智能（XAI）2.0：开放挑战和跨学科研究方向的宣言

    通过提出27个开放问题分类为九类，本文不仅强调了XAI及其在现实世界中的应用的进展，也解决了XAI中的挑战，并强调了更广泛的视角和协作努力的需求，以推动XAI的发展和贡献于其持续成功。

    Oct, 2023