Jun, 2024
探讨可解释性和人工智能素养在用户合规性中的作用
Investigating the Role of Explainability and AI Literacy in User Compliance
Niklas Kühl, Christian Meske, Maximilian Nitsche, Jodie Lobana
TL;DRAI 逐渐在不同领域中变得越来越普遍。然而，由于复杂的基于 AI 的系统通常是黑盒的，决策逻辑不透明，用户发现很难遵守它们的建议。虽然研究人员正在调查可解释的人工智能（XAI）以增强底层机器学习模型的透明度，但有效的解释类型和其他增加遵从的因素仍不清楚。为了更好地了解这些因素的相互影响，我们进行了一个实验，涉及 562 名参与者，他们接收到一个人工智能系统的建议和两种不同类型的 XAI。我们发现引入 XAI 后，用户的遵从度增加，但也受到人工智能素养的影响。我们还发现，人工智能素养、XAI 和用户的遵从度之间的关系受用户对人工智能的心理模型的中介影响。我们的研究对成功设计利用 XAI 的基于人工智能的系统具有几个意义。