Feb, 2023

无形用户：通过解释形式和目标揭示可解释 AI 的最终用户需求

PDF
TL;DR通过 EUCA 用户研究，我们系统地理解了最终用户对 XAI 的要求，并确定了用户友好的解释形式和解释目标，它们对直接启发新的 XAI 算法和评估指标具有帮助
explainable artificial intelligenceend-usersxai techniquesuser requirementsxai evaluation objectives
发现论文，激发创造
  • 透过终端用户启发式设计超越 XAI 算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • EUCA: 以终端用户为中心的可解释人工智能框架

    该研究提出了一种面向终端用户的解释性人工智能框架 EUCA，其中包括 12 种不需要技术知识就可以理解的终端用户友好型解释形式，并进行用户研究来共同设计低保真度原型。

    Feb, 2021

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 终端用户真正想要什么？人性化 XAI 技术在移动健康应用中的探究

    该论文讨论使用以用户为中心的角度来解决人工智能不可解释性的问题，并通过在线调查分析用户的不同偏好和特征来设计可解释人工智能，结果将用户分为三类：强权、休闲和隐私导向型用户，从而为人工智能的实际应用带来更人性化的交互。

    Oct, 2022

  • 面向人类中心的可解释人工智能：模型解释的用户研究

    本文通过系统文献综述，评估了 85 篇人基于 XAI 评估的核心论文，并对解释方法的可信、可懂、公平、可用性和人工智能团队表现等进行了归类。作者提出了关于设计和进行 XAI 用户研究的最佳实践指南，并强调了将心理科学和以人为中心的 XAI 联系起来的几个开放研究方向。

    Oct, 2022

  • 帮助我帮助人工智能”：理解可解释性如何支持人工智能交互

    通过对鸟类识别应用程序的最终用户进行混合方法研究，我们发现参与者们希望获得实际有用的信息，以改善与人工智能的协作，尤其是需要参与者使用 XAI 解释以达到各种目的，包括校准信任、提高任务技能、改变他们的行为以提供更好的输入等

    Oct, 2022

  • 人机交互中，可解释人工智能界面的设计与评估：系统调查

    该论文通过对 53 篇出版物的系统调查，介绍了可解释人工智能（XAI）和可解释界面（EI）研究的最新趋势，旨在提高 XAI 系统的可用性、实用性和用户体验设计方面的效果，并为 EI 设计与开发指明了有前途的方向。

    Mar, 2024

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 解释性人工智能（XAI）评估方法的新视角

    要在可行性、领域特征和风险考虑等方面综合权衡，才能更好地协商可解释性和系统性能之间的平衡，并为未来研究和最佳实践提供基础。

    Jul, 2023

  • 医学影像分析中的临床可解释人工智能指南与评估

    提出了临床 XAI 指南作为临床用户获取来自 AI 的决策支持和遵守基于证据的医疗实践的关键，它由五个优化临床 XAI 的标准组成，涵盖可理解性、临床相关性、真实性、信息可信度和计算效率等方面，对 16 种常用的热图 XAI 技术进行了系统评估，并证明了指南的可行性。

    Feb, 2022