Dec, 2023

您的可解释人工智能有多信息？一项决策评估任务来客观衡量解释的好处

PDF
TL;DR在这篇论文中，我们通过提出一个评估任务来客观并定量地衡量可解释人工智能系统在信息交互中提供给用户的信息能力，并计划在人机决策任务中比较两种 XAI 技术，以深入理解是否用户中心的方法比传统方法更具信息性。
explainable artificial intelligence (xai)user-centred approachesinformation powerinteractionhuman-robot decision-making
发现论文，激发创造
  • 可解释人工智能的度量：挑战与前景

    本文研究解释型人工智能（XAI）的性能评估，包括解释质量、用户满意度、用户对人工智能系统的理解度、好奇心的激发、信任及依赖程度以及人机协同的表现。根据广泛的研究文献和心理测量评估结果，提出相应的方法和建议。

    Dec, 2018

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 用户中心 XAI 的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 可解释人工智能在人工智能决策中的应用的 Meta 分析

    这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

    May, 2022

  • 从个人经验到量化评估方法：评估可解释 AI 的系统综述

    文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了 12 个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量 XAI 评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的 XAI 方法。

    Jan, 2022

  • 用户视角下的可解释人工智能（XAI）- 先前文献综述和未来研究问题解析

    通过系统文献综述研究 AI 解释的四个维度 - 格式、完备性、准确性和时效性，以及 XAI 效应的五个维度 - 信任、透明度、可理解性、可用性和公正性，并且针对未来研究议程提出了研究问题和可能的研究方向，从而开发了一个综合框架，并研究了其对用户行为的影响。

    Nov, 2022

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释性方法评估的实验研究

    本文比较了 14 个不同的评估指标在 9 种最先进的 XAI 方法和 3 种用作参考的虚拟方法（如随机显著性图）上的应用结果，结果表明其中一些指标会产生高度相关的结果，还展示了基准超参数变化对评估指标值的显著影响，最后使用虚拟方法评估指标的可靠性及其排名方面的限制。

    May, 2023

  • 解释性人工智能（XAI）评估方法的新视角

    要在可行性、领域特征和风险考虑等方面综合权衡，才能更好地协商可解释性和系统性能之间的平衡，并为未来研究和最佳实践提供基础。

    Jul, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021