May, 2024

深化对话式可解释人工智能中用户体验的愿望实现框架

PDF
TL;DR本文研究了多方位可解释人工智能（XAI）的相互关系，探讨了不同类型的解释如何协同满足用户的 XAI 需求。我们介绍了 Intent Fulfilment Framework（IFF）来创建解释体验，并结合 Explanation Followups 建立 Explanation Experience Dialogue Model，为用户提供对话式界面来探索他们的解释需求，从而创造解释体验。通过定量和定性研究结果，我们证明了 IFF 对于提升用户参与度、AI 系统的效用和整体用户体验的影响。总的来说，我们强调 “一种解释不适用于所有情况” 的原则，以对话的方式引导复杂的互动过程。
explainable artificial intelligencexaiexplanation experiencesintent fulfilment frameworkexplanation experience dialogue model
发现论文，激发创造
  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 可以请问一个后续问题吗？理解神经网络可解释性中对话的好处

    我们研究了自由形式对话是否可以提高用户理解静态解释的能力，改善对解释方法的接受度和信任度，并促进人工智能与人类的合作。实证结果表明，对话显著提高了理解、接受度、信任度和合作能力，强调了以自由形式对话的方式提供定制化模型解释的重要性，并为未来的对话解释设计提供了启示。

    Sep, 2023

  • 基于生成模型的自然语言推理解释的交互式可解释人工智能框架

    INTERACTION 是一个生成性 XAI 框架，提供两个步骤的术语解释生成方法，具有 better performance 和多样性。

    Sep, 2022

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 可解释人工智能的基础交互协议

    本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

    Mar, 2019

  • 面向解释性人工智能的全面人本评估框架

    通过在解释性人工智能（XAI）中引入用户中心评估框架，我们希望综合评估方法，总结解释属性，建立相互关系，并分类度量这些属性，以期为 XAI 评估的人本标准化做出贡献。

    Jul, 2023

  • 用户视角下的可解释人工智能（XAI）- 先前文献综述和未来研究问题解析

    通过系统文献综述研究 AI 解释的四个维度 - 格式、完备性、准确性和时效性，以及 XAI 效应的五个维度 - 信任、透明度、可理解性、可用性和公正性，并且针对未来研究议程提出了研究问题和可能的研究方向，从而开发了一个综合框架，并研究了其对用户行为的影响。

    Nov, 2022

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 面向可解释人工智能的基于场景对话模型

    本文旨在探讨为了与用户建立信任，可解释人工智能系统需要包括一个解释模型，其可以向交互的人类沟通其内部的决策、行为和操作。该文通过对 398 种不同解释对话类型的记录进行分析，提出了一种人类解释对话模型，并使用基础理论进行编码和确定其关键成分，还进一步分析了对话中发生的序列和周期的关系，提出了一种泛化状态模型。

    Jun, 2018

  • 面向人类认知水平的反事实解释实验设计（XAI）

    使用 Bloom's 分类法作为用户的认知能力测量模型，在讲解生成的过程中采用反事实解释为媒介，结合用户反馈，验证讲解在每个认知层次上的理解水平，并据此改进讲解的生成方法。

    Oct, 2022