Nov, 2022

Seamful XAI: 以可解释AI实现缝合设计

HTML
PDF
TL;DR我们提出了“Seamful XAI”的概念，通过在AI设计中策略性地揭示社会技术和基础设施不匹配，从而促进面向人类的可解释AI。我们探讨了这一过程，使用基于场景的共同设计活动，并与43名AI从业人员和用户分享了实证洞见、影响和关键反思，这个过程可以帮助从业人员预测和制定AI中的seams，如何通过seamfulness改善解释性，赋予最终用户能力，并促进负责任的AI。
发现论文，激发创造
  • 质询人工智能：为可解释人工智能用户体验制定设计实践

    通过访谈20位UX和设计从业者，该研究通过开发基于算法的XAI问题库来识别当前XAI算法工作和可创建可解释AI产品的实践之间的差距，并提出了扩展的XAI问题库，探讨其如何用于创建以用户为中心的XAI。

    Jan, 2020

  • 扩展可解释性：AI系统的社会透明度

    介绍和探索社交透明度(ST)的概念，该概念将社会组织背景融入到解释人工智能决策的过程中，旨在提高人工智能决策的信任度、改善决策过程、促进组织集体行动和增强说服力。

    Jan, 2021

  • 人类中心的可解释人工智能 (XAI)：从算法到用户体验

    本文介绍了可解释AI的技术领域以及人们对人机交互和用户体验设计日益重视，在XAI的设计、评估、概念和方法论工具方面提供人本方法的作用。本文旨在提供人本的XAI设计，并帮助传达和扩展已有的XAI工具箱。

    Oct, 2021

  • 透过终端用户启发式设计超越XAI算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • 帮助我帮助人工智能”：理解可解释性如何支持人工智能交互

    通过对鸟类识别应用程序的最终用户进行混合方法研究，我们发现参与者们希望获得实际有用的信息，以改善与人工智能的协作，尤其是需要参与者使用XAI解释以达到各种目的，包括校准信任、提高任务技能、改变他们的行为以提供更好的输入等

    Oct, 2022

  • 解释性人工智能中社会技术差距的绘图：解决XAI 中的差距框架

    论文研究了可解释AI的社会技术性质，提出社会技术差距并设计了一个框架来系统地研究该差距，以获得可操作的见解并扩展XAI设计空间。

    Feb, 2023

  • 用户中心XAI的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 可解释人工智能（XAI）2.0：开放挑战和跨学科研究方向的宣言

    通过提出27个开放问题分类为九类，本文不仅强调了XAI及其在现实世界中的应用的进展，也解决了XAI中的挑战，并强调了更广泛的视角和协作努力的需求，以推动XAI的发展和贡献于其持续成功。

    Oct, 2023

  • 可解释人工智能的重新思考：在大型语言模型时代挑战可解释性人工智能的现状

    本研究旨在解决可解释人工智能（XAI）在大型语言模型（LLMs）出现后面临的理解限制。文章提出了一种人本视角，推动了对可解释性的重新定义，并系统整合了现有的XAI研究。最重要的发现是，将注意力从算法本身转向人类用户的理解需求，能显著提升XAI的有效性和实际应用潜力。

    Aug, 2024

  • 可解释人工智能重启：在大语言模型时代挑战可解释性人工智能的现状

    本研究针对在大型语言模型（LLMs）时代，可解释人工智能（XAI）面临的理解困难提出了问题。文章提出应采取以人为中心的视角，超越传统“打开黑箱”的假设，通过三个维度综合XAI研究，揭示了新的可解释性路径。研究结果为XAI领域的未来方向提供了重要启示，强调了人类中心方法的重要性。

    Aug, 2024