Jul, 2020
视觉解释有用吗？一个基于模型循环的预测案例研究
Are Visual Explanations Useful? A Case Study in Model-in-the-Loop Prediction
Eric Chu, Deb Roy, Jacob Andreas
TL;DR本试验的目的是研究在模型与人类在图像年龄预测任务中表现相似情况下，给人类提供好的模型预测解释是否会提高人类预测的准确度，而不好的解释会降低人类对模型的信任。研究发现，给人类提供模型预测能提高人类准确度，但图像解释并不能改变人类对模型的准确度或信任的显著差异。这一发现表明有必要对后续的决策任务进行更全面的解释评估，为用户提供基于设计的解释工具，并思考更好的生成解释的方法。