人工智能的迅猛发展需要开发者和设计师注重人和机器的合作。通过理解认知心理学的发现，确定了四个构成元素，即感知、语义、意图和用户与上下文，以设计有效的解释，如通过将文本和视觉、可能性和实例、意向交流融合，实现了计算食品卡路里的例子，并建议在解释生成和交流之间增加一个额外的步骤，以确定解释的效力。

Oct, 2022

通过提出 Explanation-assisted Guess Which (ExAG) 游戏作为评估 AI 生成的解释对人 - AI 协作任务产生影响的一种方法，我们发现人类在进行协作任务时，当 AI 解释其答案时，能更容易地正确猜测到秘密图像，并且有用的解释显着提高了人类的实际表现。

Apr, 2019

本文探讨了人类和人工智能决策团队的过度依赖现象，提出了一种基于成本效益框架的策略模型来平衡 AI 解释带来的成本和效益，证明了在某些情况下 AI 解释可降低过度依赖。

Dec, 2022

通过用户研究，本研究评估了可解释人工智能在实际场景中对人类决策的改进效果，结果发现虽然解释有助于用户更准确地描述模型，但对于模型选择和反事实模拟这两个任务，并没有找到使用任何显著改进的证据，这表明对基于显著性的解释的实用性和可能的误解需要谨慎对待。

Dec, 2023

本研究通过适应性因果图的方式，探讨了人机共存下机器学习模型解释与人类理解的相互作用。研究发现，提高人类针对模型决策边界的理解是可能的，但提高人类对任务决策边界或模型错误的理解需要结合人类主观性经验去实现。最后，本研究提出了一些可行的措施，以及未来机器学习模型解释研究的方向。

Feb, 2022

这篇论文探讨了可解释的人工智能技术和其评估方法之间的差距，介绍了使用简单的数学模型来评估不同模型表述的易理解程度，以及如何设置和执行相关用户研究的概念和实践框架。

Mar, 2023

该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

Nov, 2018

本文通过实证研究（N = 249），探讨了 DKE 是否会影响人们适当地依赖 AI 系统，以及探讨这种影响是否可以通过教程干预和利用基于逻辑单元的解释来缓解。我们发现，自我高估的参与者往往会表现出对 AI 系统的不足依赖，这阻碍了最佳团队表现。然而，教程干预对于高估自我评估的参与者来说非常有效，可以帮助他们校准自我评估并促进适当的依赖。本研究对设计解决用户认知偏差、促进在 AI 系统上适当依赖的方法具有广泛的启示性意义。

Jan, 2023

研究表明，在机器学习中，准确度比可解释性更重要，添加解释可能会损害用户信任，同时高度真实的解释不能欺骗用户的信任，用户的信任感与其实际表现不符。

Jul, 2019

本试验的目的是研究在模型与人类在图像年龄预测任务中表现相似情况下，给人类提供好的模型预测解释是否会提高人类预测的准确度，而不好的解释会降低人类对模型的信任。研究发现，给人类提供模型预测能提高人类准确度，但图像解释并不能改变人类对模型的准确度或信任的显著差异。这一发现表明有必要对后续的决策任务进行更全面的解释评估，为用户提供基于设计的解释工具，并思考更好的生成解释的方法。

Jul, 2020