本文通过一项混合研究探讨了两组不同背景 —— 有和无人工智能背景人群 —— 对不同类型 AI 解释的不同看法，明确人工智能背景对解释理解产生的影响，并通过设计介入减轻消极影响。

Jul, 2021

此研究探讨了决策者对于任务预测和解释的一些直觉，发现了三种类型的直觉：关于任务结果、特征和 AI 限制。此外，该研究还通过两种类型的解释，探索了决策者如何运用自己的直觉来决定是否应该依赖 AI 预测，并发现了三条决策者运用自己直觉的路径。研究表明，AI 解释并不能总是提高决策者的决策效果并可能提高其对 AI 的过度依赖，但使用基于示例的解释则可能有助于完善人工智能的表现。

Jan, 2023

我们研究了当一个 AI 系统遇到一项不能完美执行的任务时，用户如何看待其限制，并且提供解释是否有助于用户构建系统能力和限制的适当心理模型。通过控制视觉输入，在视觉问答解释任务中，我们操控 AI 系统的限制：在推理过程中，该系统可以处理全彩色或灰度图像。我们的目标是确定参与者是否能够察觉到该系统的限制。我们假设解释会使有限的 AI 能力对用户更加透明。然而，我们的研究结果显示解释没有这种效果。与其实际表现无关，解释通常会增加用户对系统能力的认知。

Jun, 2024

本文探讨了人类和人工智能决策团队的过度依赖现象，提出了一种基于成本效益框架的策略模型来平衡 AI 解释带来的成本和效益，证明了在某些情况下 AI 解释可降低过度依赖。

Dec, 2022

本文通过实证研究（N = 249），探讨了 DKE 是否会影响人们适当地依赖 AI 系统，以及探讨这种影响是否可以通过教程干预和利用基于逻辑单元的解释来缓解。我们发现，自我高估的参与者往往会表现出对 AI 系统的不足依赖，这阻碍了最佳团队表现。然而，教程干预对于高估自我评估的参与者来说非常有效，可以帮助他们校准自我评估并促进适当的依赖。本研究对设计解决用户认知偏差、促进在 AI 系统上适当依赖的方法具有广泛的启示性意义。

Jan, 2023

人工智能系统的可靠性和决策呈现方式对用户建立 AI 系统的心理模型至关重要，现代自然语言处理系统常常不可靠，导致系统信任被削弱，研究发现用户对错误和不准确的信心估计会对信任和性能造成损害，并且这种损害缓慢恢复，这些发现凸显了用户面向的人工智能应用中测定是否信任该系统时校准的重要性。

Oct, 2023

为了训练自然对话模型，作者创建了一个新的包含电影聊天信息和相关背景知识的数据集，并使用三种不同的模型对这个数据集进行了基准测试。

Sep, 2018

通过提供上下文信息，研究人员发现可以显著提高人工智能团队和人类之间的协作性，同时也改变了人们对于委派任务的行为方式，为设计更有效的协作系统提供了可行的见解。

Jan, 2024

本文介绍了一个过程导向的适当依赖概念，称为关键使用，通过将人类的能力与 AI 模型无法获取的知识相对比，以帮助人们辅助 AI 决策时的判断。通过在一个复杂的社会决策环境下进行随机在线实验来探索如何支持关键使用的训练，我们发现通过在这种情况下为参与者提供加速的、低成本的机会来练习 AI 辅助决策，新手参与者开始表现出与经验工作者相似的与 AI 不一致的模式。参与者对其 AI 辅助决策的解释的定性研究表明，他们参考了 AI 模型无法获取的定性案例叙述，以学习何时（不）依赖 AI 预测。我们的研究结果为实现真实世界的 AI 辅助决策的培训提出了新的问题和设计思路。

Aug, 2023

本研究通过让模型处理带有分散注意力内容的填空任务，检验了预训练语言模型利用关键上下文信息的能力；研究结果表明，模型往往只是依靠表面上与上下文有关的信息进行预测，而对于上下文语境的理解能力不及预期。

Sep, 2021