AAAIMay, 2022

可解释人工智能在人工智能决策中的应用的 Meta 分析

PDF
TL;DR这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。
artificial intelligenceexplainable aidecision-makingmeta-analysistext data
发现论文，激发创造
  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 可解释的人工智能是否能改善人类决策？

    使用真实数据集进行对比和评估，在控制组、具有 AI 预测（未解释），以及具有解释的 AI 预测三组中比较和评估了人类决策的客观准确性。然后发现提供任何形式的 AI 预测都倾向于提高用户的决策准确性，但没有确凿的证据表明解释性 AI 具有实质性影响。因此，我们的研究结果表明解释性 AI 在某些情况下提供的 “何以解释” 的信息可能无助于用户的决策，需要进一步的研究来了解如何将解释性 AI 集成到实际系统中。

    Jun, 2020

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 回顾解释型人工智能的需求 (xAI)

    本文对可解释性人工智能的相关文献进行了系统回顾，发现了四个主题性讨论，旨在推动可解释性人工智能领域的研究进一步深入发展。

    Dec, 2020

  • 可解释人工智能在临时人机协同中的效用

    本研究通过两个实验研究了应用可解释人工智能技术对于提高团队情境感知、共享心智模型等关键特征的人 - 机团队的效果。结果发现，人 - 机团队的构成对可解释人工智能技术的效果产生了显著影响，初学者受益于通过可解释人工智能技术提高的情境感知，而专家则会由于注意力过度分散导致表现下降。因此，在人 - 机团队的设计和应用过程中，应谨慎考虑团队构成对于可解释人工智能技术效果的影响。

    Sep, 2022

  • 用户视角下的可解释人工智能（XAI）- 先前文献综述和未来研究问题解析

    通过系统文献综述研究 AI 解释的四个维度 - 格式、完备性、准确性和时效性，以及 XAI 效应的五个维度 - 信任、透明度、可理解性、可用性和公正性，并且针对未来研究议程提出了研究问题和可能的研究方向，从而开发了一个综合框架，并研究了其对用户行为的影响。

    Nov, 2022

  • 可解释的人工智能已死，长命可解释的人工智能！基于假设的决策支持

    本篇论文主张从现有的可解释人工智能 (XAI) 模型转变到基于评价的人工智能 (Evaluative AI) 以减轻提供推荐的对人类决策制定的限制和不对人类决策制定的认知过程考虑不足带来的问题，并更好地利用人类决策制定的专业知识。

    Feb, 2023

  • 不完美的 XAI 对人工智能决策的影响

    在鸟类物种识别任务中，通过一项涉及 136 名参与者的强大的混合方法用户研究，我们评估了错误解释对人类决策行为的影响，考虑了参与者的专业水平和解释的断言程度，并揭示了不完美的 XAI 以及人类专业水平对于其对人类决策和人机团队绩效的依赖的影响。我们还讨论了解释可能在人机合作中误导决策者的方式，从而为设计人机合作系统的设计者提供了指南。

    Jul, 2023

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020