May, 2024

人机协同的可解释界面：一项综述

PDF
TL;DR本文从以人为中心的角度对人工智能可解释性界面在人工智能增强的人机协作系统中的透明性挑战进行了深入研究，并提出了一个用于评估该界面的新框架。通过在可解释人工智能、人机协作以及人机交互等领域进行广泛调查，该研究提供了多个新见解，探讨了将可解释人工智能整合到人工智能增强的人机协作系统中的未来方向。
explainable interfaceexplainable artificial intelligencehuman-autonomy teamingtransparency challengesmodel performance
发现论文，激发创造
  • 人机交互中，可解释人工智能界面的设计与评估：系统调查

    该论文通过对 53 篇出版物的系统调查，介绍了可解释人工智能（XAI）和可解释界面（EI）研究的最新趋势，旨在提高 XAI 系统的可用性、实用性和用户体验设计方面的效果，并为 EI 设计与开发指明了有前途的方向。

    Mar, 2024

  • 可解释人工智能在临时人机协同中的效用

    本研究通过两个实验研究了应用可解释人工智能技术对于提高团队情境感知、共享心智模型等关键特征的人 - 机团队的效果。结果发现，人 - 机团队的构成对可解释人工智能技术的效果产生了显著影响，初学者受益于通过可解释人工智能技术提高的情境感知，而专家则会由于注意力过度分散导致表现下降。因此，在人 - 机团队的设计和应用过程中，应谨慎考虑团队构成对于可解释人工智能技术效果的影响。

    Sep, 2022

  • 将解释引入自动驾驶车辆的人机界面以提升信任和情景感知

    自动驾驶汽车中人工智能的可解释性和人机界面对于建立信任起到重要作用，因此本研究探讨了可解释性人机系统的作用，提出了一种评估用户对自动驾驶行为的信任的情境感知框架，并通过实验证明了相关的经验结果。

    Apr, 2024

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 人类中心的可解释人工智能（XAI）的未来不在于事后解释

    该论文呼吁从事人类中心的可解释人工智能研究，探究人类对于深度学习系统的理解和信任的关键作用，并提出设计可解释的神经网络体系结构的方案，以实现实时、准确、可操作、易于解释和一致的需求。

    Jul, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 内在和外在可解释性的整合：理解神经网络对于人机交互的相关性

    阐释了可解释人工智能在协作、神经机器人学和人形机器人等方面的现状，并介绍了人形机器人平台 NICO 及其内在与外在解释如何促进高效的机器人行为。

    Oct, 2020

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023