Sep, 2023

AI 增强了我们的效能，我毫不怀疑这款产品也会如此：对 AI 的负面描述对安慰剂效应没有影响

PDF
TL;DR通过安慰剂效应，增加人工智能期望有利于提高人工智能与人类之间的互动表现。但是，过低的期望可能导致无安慰剂效应。通过伪装的人工智能的实验，我们发现参与者在高期望下表现更好，这主要归因于他们收集了更多的信息。进一步的研究验证了负面的人工智能描述不会改变期望，这表明人工智能的性能期望存在偏见且对负面描述有鲁棒性。我们讨论了用户期望对人工智能互动和评估的影响，并提供了一种行为性安慰剂标记来评估人工智能与人类的互动。
发现论文，激发创造
  • 理解反事实解释对人工智能辅助临床决策中信任与依赖的影响

    通过使用显著特征解释和假设性解释来更加分析性地对待人工智能建议，可以降低对人工智能的过度依赖，提高医疗决策过程中的性能和一致性，尤其是在确保人工智能提供正确输出的情况下。

    Aug, 2023

  • 迷失于能力中：评估解释对用户对视觉问答系统的心智模型的影响

    我们研究了当一个 AI 系统遇到一项不能完美执行的任务时，用户如何看待其限制，并且提供解释是否有助于用户构建系统能力和限制的适当心理模型。通过控制视觉输入，在视觉问答解释任务中，我们操控 AI 系统的限制：在推理过程中，该系统可以处理全彩色或灰度图像。我们的目标是确定参与者是否能够察觉到该系统的限制。我们假设解释会使有限的 AI 能力对用户更加透明。然而，我们的研究结果显示解释没有这种效果。与其实际表现无关，解释通常会增加用户对系统能力的认知。

    Jun, 2024

  • 利用人工智能行为描述改善人工智能与人类的协作

    研究表明，向人们显示 AI 系统的高层行为特征是帮助人们在决策过程中恰当地依赖 AI 的关键，这将大大提高 AI 援助下的决策准确性。

    Jan, 2023

  • 可解释人工智能对人类表现的影响：对显著性图行为后果的系统综述

    68 个用户研究的系统综述发现，显著性图可以增强人类表现，但也常见到零效应甚至负效应。这些效应受多个因素的调节，包括人类任务、AI 性能、XAI 方法、待分类的图像、人类参与者和比较条件等。图像任务中的效益不如 AI 任务中常见，但效果取决于具体的认知需求。此外，效益通常局限于 AI 任务中的错误预测，而在图像任务中局限于正确预测。与 XAI 相关的因素影响较小。对于图像和人类相关的因素，证据有限且效应高度依赖于比较条件。这些发现可能有助于未来用户研究的设计。

    Apr, 2024

  • 自信和缺乏自信的 AI 妨碍人工智能合作

    研究人工智能在人类协作中的表现和对人类信任、接受建议以及协作结果的影响，揭示了披露人工智能表达的信心水平和性能反馈有助于更好地识别信心不一致，但参与者往往会因此减少信任，拒绝人工智能建议，导致协作任务表现更差，这为提高人工智能与人类的协作提供了有价值的见解。

    Feb, 2024

  • 解释可减少决策中对 AI 系统的过度依赖

    本文探讨了人类和人工智能决策团队的过度依赖现象，提出了一种基于成本效益框架的策略模型来平衡 AI 解释带来的成本和效益，证明了在某些情况下 AI 解释可降低过度依赖。

    Dec, 2022

  • AI 系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

    本文探讨了 AI 系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供 AI 系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出 AI 系统只能捕捉到相关关系而非因果关系可以减轻其影响。

    May, 2022

  • 情感对话机器人：理解期望和个人影响

    研究调查了 745 名受访者，旨在了解不同应用中关于情感技能的期望和偏好。结果表明，在设计情感智能对话代理时，应根据应用的上下文和性质考虑适应性和情境感知。

    Oct, 2023

  • 认知知识的认识：人类能力的错觉会妨碍对人工智能系统的适当依赖

    本文通过实证研究（N = 249），探讨了 DKE 是否会影响人们适当地依赖 AI 系统，以及探讨这种影响是否可以通过教程干预和利用基于逻辑单元的解释来缓解。我们发现，自我高估的参与者往往会表现出对 AI 系统的不足依赖，这阻碍了最佳团队表现。然而，教程干预对于高估自我评估的参与者来说非常有效，可以帮助他们校准自我评估并促进适当的依赖。本研究对设计解决用户认知偏差、促进在 AI 系统上适当依赖的方法具有广泛的启示性意义。

    Jan, 2023

  • AI 技术被接受的驱动因素：期望和经验的作用

    本研究探讨影响人工智能接受意向的因素及其形成过程，结果发现人工智能和 ICT 经验对 AI 接受意向有直接和间接影响，期望是提高了接受意向的关键。因此，有必要管理用户体验并提供详细的信息以帮助潜在用户了解 AI 技术优势并制定现实的期望。

    Jun, 2023