Nov, 2022

用户视角下的可解释人工智能（XAI）- 先前文献综述和未来研究问题解析

PDF
TL;DR通过系统文献综述研究 AI 解释的四个维度 - 格式、完备性、准确性和时效性，以及 XAI 效应的五个维度 - 信任、透明度、可理解性、可用性和公正性，并且针对未来研究议程提出了研究问题和可能的研究方向，从而开发了一个综合框架，并研究了其对用户行为的影响。
systematic literature reviewai explanationxai effectsexplanation representation formatuser behavior
发现论文，激发创造
  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021

  • 人工智能系统中的解释性：文献综述、主要观点和出版物概要，以及可解释性人工智能参考书目

    这篇综述论文回答了 “什么是良好的解释” 的问题，并涵盖了人工智能 (AI) 系统的历史、现代 AI 的解释问题和挑战、领先心理学理论的发展。鉴于 XAI 系统的特殊性，建议 AI/XAI 研究人员在其研究报告中包含更多有关其经验或实验方法的详细信息，类似于实验心理学研究报告，包括参与者、说明、程序、任务、被试变量 （度量和指标的操作定义）、自变量 （条件）和控制条件。

    Feb, 2019

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 基于概念的可解释人工智能综述

    通过对 C-XAI 方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023

  • 可解释人工智能在人工智能决策中的应用的 Meta 分析

    这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

    May, 2022