Sep, 2022

可解释人工智能在临时人机协同中的效用

PDF
TL;DR本研究通过两个实验研究了应用可解释人工智能技术对于提高团队情境感知、共享心智模型等关键特征的人 - 机团队的效果。结果发现，人 - 机团队的构成对可解释人工智能技术的效果产生了显著影响，初学者受益于通过可解释人工智能技术提高的情境感知，而专家则会由于注意力过度分散导致表现下降。因此，在人 - 机团队的设计和应用过程中，应谨慎考虑团队构成对于可解释人工智能技术效果的影响。
发现论文，激发创造
  • 可解释人工智能在人工智能决策中的应用的 Meta 分析

    这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

    May, 2022

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 人类中心的可解释人工智能 (XAI)：从算法到用户体验

    本文介绍了可解释 AI 的技术领域以及人们对人机交互和用户体验设计日益重视，在 XAI 的设计、评估、概念和方法论工具方面提供人本方法的作用。本文旨在提供人本的 XAI 设计，并帮助传达和扩展已有的 XAI 工具箱。

    Oct, 2021

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 人机协同的可解释界面：一项综述

    本文从以人为中心的角度对人工智能可解释性界面在人工智能增强的人机协作系统中的透明性挑战进行了深入研究，并提出了一个用于评估该界面的新框架。通过在可解释人工智能、人机协作以及人机交互等领域进行广泛调查，该研究提供了多个新见解，探讨了将可解释人工智能整合到人工智能增强的人机协作系统中的未来方向。

    May, 2024

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 面向人类中心的可解释人工智能：模型解释的用户研究

    本文通过系统文献综述，评估了 85 篇人基于 XAI 评估的核心论文，并对解释方法的可信、可懂、公平、可用性和人工智能团队表现等进行了归类。作者提出了关于设计和进行 XAI 用户研究的最佳实践指南，并强调了将心理科学和以人为中心的 XAI 联系起来的几个开放研究方向。

    Oct, 2022

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 人类中心的可解释人工智能（XAI）的未来不在于事后解释

    该论文呼吁从事人类中心的可解释人工智能研究，探究人类对于深度学习系统的理解和信任的关键作用，并提出设计可解释的神经网络体系结构的方案，以实现实时、准确、可操作、易于解释和一致的需求。

    Jul, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020