Jan, 2023

关于调和可用性和实用性的可解释人工智能方法

PDF
TL;DR本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。
explainable aiuser-studyxai modalitiesself-driving carsperception
发现论文，激发创造
  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 可解释人工智能在人工智能决策中的应用的 Meta 分析

    这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

    May, 2022

  • 交互作用：一种基于用户交互的图像分类模型解释方法

    通过用户互动，我们提出了一种基于互动的可解释的 AI 方法，通过修改图像来观察分类结果的变化，使用户能够辨别影响模型决策过程的关键特征，从而将他们的心智模型与模型逻辑对齐。该方法通过用户参与和理解为可解释的 AI 系统提供了更直观和易于访问的方式。

    Apr, 2024

  • 透过终端用户启发式设计超越 XAI 算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020