Feb, 2024

面向成功用户决策支持的动态解释选择与可解释人工智能

PDF
TL;DR该研究论文提出了一种名为 X-Selector 的方法，用于动态选择可解释的人工智能决策支持系统中的解释，以引导用户做出更好的决策。通过与两种幼稚策略和两种基准策略进行比较，结果表明 X-Selector 在高人工智能准确性时能够引导用户做出推荐决策并提高性能，在低人工智能准确性时则面临挑战。
explainable aiintelligent decision support systemsx-selectoruser decisionsexplanations
发现论文，激发创造
  • 选择性解释：利用人类输入对可解释人工智能进行对齐

    本文提出了一种基于人类交流行为启发的可选择性解释框架，通过选择性地展示大量模型原因的子集，根据受众的偏好来尝试解决解释型 AI 算法在如何生成和消耗解释方面存在重大差距的问题，并通过决策支持任务和实验研究证明了其减少依赖 AI 和提高决策结果和主观感知的潜力。

    Jan, 2023

  • 基于子目标的不可靠智能决策支持系统解释

    本文研究了面向新手用户的非稳健智能决策支持系统的互动，介绍了一种新颖的基于子目标的解释类型，即补充传统智能决策支持系统输出的信息，以提高用户任务表现和系统的鲁棒性。研究表明，基于子目标的解释可实现更好的用户任务表现、提高用户区分优化和非优化智能决策支持推荐的能力、得到用户的喜爱，并在智能决策支持系统失灵的情况下实现更加鲁棒的用户表现。

    Jan, 2022

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 可解释的人工智能已死，长命可解释的人工智能！基于假设的决策支持

    本篇论文主张从现有的可解释人工智能 (XAI) 模型转变到基于评价的人工智能 (Evaluative AI) 以减轻提供推荐的对人类决策制定的限制和不对人类决策制定的认知过程考虑不足带来的问题，并更好地利用人类决策制定的专业知识。

    Feb, 2023

  • 可解释人工智能在人工智能决策中的应用的 Meta 分析

    这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

    May, 2022

  • 人机交互中，可解释人工智能界面的设计与评估：系统调查

    该论文通过对 53 篇出版物的系统调查，介绍了可解释人工智能（XAI）和可解释界面（EI）研究的最新趋势，旨在提高 XAI 系统的可用性、实用性和用户体验设计方面的效果，并为 EI 设计与开发指明了有前途的方向。

    Mar, 2024

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 如何选择一个解释器？一个基于应用的后续解释评估

    提出了一种名为 XAI Test 的应用基准评估方法，旨在评估不同水平的信息提供对最终决策的影响，针对现实世界的欺诈检测任务进行了实验，并使用多种统计方法分析了三种热门解释器的影响。

    Jan, 2021

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021