Jan, 2021

理解对人工智能决策的影响：对于越界示例和交互解释的研究

PDF
TL;DR本文研究了在挑战性预测任务中人工智能（AI）和人类单独执行和协同执行的准确性，并提出了两种方法来理解实现互补性性能的差距，即设计具有不同分布类型的实验以考虑 AI 性能的分布转移，以及开发支持交互式解释的新界面。在多项实验结果中，研究者发现了关键的挑战和未来方向，以增强人类在 AI 辅助下的表现。
发现论文，激发创造
  • 整体是否超越其部分？人工智能解释对互补团队绩效的影响

    研究表明，仅当 AI 单独胜过人类和最佳团队时，AI 解释才能提高人类 - AI 团队在决策任务上的表现。本研究通过三个数据集上的混合法用户研究发现，AI 表现增强是有可能提高团队准确性的，但并非由于解释的作用，而是由于解释能提高人类对 AI 建议的接受率，进而鼓励恰当的信任和生成更好的绩效。

    Jun, 2020

  • 人的直觉在人工智能决策中的依赖作用及其解释

    此研究探讨了决策者对于任务预测和解释的一些直觉，发现了三种类型的直觉：关于任务结果、特征和 AI 限制。此外，该研究还通过两种类型的解释，探索了决策者如何运用自己的直觉来决定是否应该依赖 AI 预测，并发现了三条决策者运用自己直觉的路径。研究表明，AI 解释并不能总是提高决策者的决策效果并可能提高其对 AI 的过度依赖，但使用基于示例的解释则可能有助于完善人工智能的表现。

    Jan, 2023

  • 人工智能决策中的解释、公平性和适当依赖

    研究了基于 AI 解释和分布式公平性之间的关系，发现解释会影响公平感知，从而与人类对 AI 建议的依赖关系发生关联。该研究表明，基于特征的解释并不是改善分布式公正性的可靠机制。

    Sep, 2022

  • 寻求可验证性：解释很少能够在 AI 辅助的决策判断中提供补充性的表现

    本文聚焦 AI 辅助决策，在 AI 解释人类决策过程中频繁失败的背景下，提出了一个简单的理论，即解释只有在允许决策者验证其正确性时才有用，我们讨论了更有效的 AI 决策解释方法和人工智能 - 人类决策的协作。

    May, 2023

  • 关于人工智能和人类协同招聘团队表现和偏见的研究

    探讨了使用 AI 辅助决策时，人工智能的预测性能与偏差如何对人类决策产生影响的复杂动态，并通过大规模用户研究发现，高性能的模型显著提高了人类在混合环境中的表现，但有些模型削弱了混合偏见，有些则加重了混合偏见。这些研究结果表明，预先评估这些复杂动态对于部署人工智能具有明确的必要性。

    Feb, 2022

  • 机器解释与人类理解

    本研究通过适应性因果图的方式，探讨了人机共存下机器学习模型解释与人类理解的相互作用。研究发现，提高人类针对模型决策边界的理解是可能的，但提高人类对任务决策边界或模型错误的理解需要结合人类主观性经验去实现。最后，本研究提出了一些可行的措施，以及未来机器学习模型解释研究的方向。

    Feb, 2022

  • 不完美的 XAI 对人工智能决策的影响

    在鸟类物种识别任务中，通过一项涉及 136 名参与者的强大的混合方法用户研究，我们评估了错误解释对人类决策行为的影响，考虑了参与者的专业水平和解释的断言程度，并揭示了不完美的 XAI 以及人类专业水平对于其对人类决策和人机团队绩效的依赖的影响。我们还讨论了解释可能在人机合作中误导决策者的方式，从而为设计人机合作系统的设计者提供了指南。

    Jul, 2023

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释人工智能在人工智能决策中的应用的 Meta 分析

    这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

    May, 2022

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020