Apr, 2022
评估 AI 模型与医疗保健专业人员之间的沟通差距：可解释性、实用性和信任的 AI 驱动临床决策
Assessing the communication gap between AI models and healthcare professionals: explainability, utility and trust in AI-driven clinical decision-making
Oskar Wysocki, Jessica Katharine Davies, Markel Vigo, Anne Caroline Armstrong, Dónal Landers...
TL;DR本文提供了一个实用的评估框架，用于可解释机器学习模型对于临床决策支持的贡献。研究揭示了 ML 解释模型的更加细致的作用，以及将其实用地嵌入临床背景的方法。 该研究发现，尽管医疗保健专业人员普遍对解释持有积极态度，但对于一定比例的参与者来说，存在负面影响，如确认偏差、过度依赖模型和增加与模型的交互的努力。此外，标准的解释模型显示出支持对模型限制进行关键理解的能力有限。但是，我们发现了具有新的显著积极影响的效果，重新定位了临床背景下解释的作用：包括减少自动化偏差、解决模糊的临床案例（医疗保健专业人员对其决策不确定的情况）并支持获取新领域知识的经验不足的医疗保健专业人员。