本研究设计了一款协作游戏 GuessWhich，通过人类和视觉对话代理人 ALICE 的互动来测试人 - AI 团队的性能表现，并发现 AI 独立测试的表现与人 - AI 团队的性能表现存在差异。

Aug, 2017

提出了 VQA-E 任务，要求计算机模型在预测答案的同时生成一个解释。通过多任务学习框架， VQA-E 数据集从 VQA v2 数据集自动导出，用户研究表明，我们的方法可以生成有洞察力的文本句子来证明答案，并提高了答案预测的性能。

Mar, 2018

通过对深度神经网络进行解释并将其应用于 VQA 等人类交互任务的研究已经取得了重大进展；然而，本研究发现目前的解释并不能提高模型的可预测性，而将模型视为黑盒的人类参与方法却能够提高可预测性。

Oct, 2018

我们研究了当一个 AI 系统遇到一项不能完美执行的任务时，用户如何看待其限制，并且提供解释是否有助于用户构建系统能力和限制的适当心理模型。通过控制视觉输入，在视觉问答解释任务中，我们操控 AI 系统的限制：在推理过程中，该系统可以处理全彩色或灰度图像。我们的目标是确定参与者是否能够察觉到该系统的限制。我们假设解释会使有限的 AI 能力对用户更加透明。然而，我们的研究结果显示解释没有这种效果。与其实际表现无关，解释通常会增加用户对系统能力的认知。

Jun, 2024

该研究提出了一种使用人工文本解释帮助视觉问答（VQA）系统选择正确答案的新框架，通过在人类文本解释上进行训练，VQA 系统可以构建更好的问题和视觉内容的表示，并重新计算训练集中生成或检索到的解释的置信度，该方法在 VQA 和其解释上实现了新的最先进的结果。

Jun, 2020

本文提出了一种新颖的方法，开发了一个高性能的 VQA 系统，能够通过集成的文本和视觉解释阐述其答案，并捕捉到深度神经网络推理的重要方面，从而比竞争方法具有更好的自动化和人类评估指标。

Sep, 2018

本文提出两个自解释图像分类器的新架构，这些分类器通过利用查询图像与样本之间的视觉对应关系，首先解释，然后预测，从而解释了人工智能（AI）预测，并且获得了更高的准确性和更有用的解释。

Jul, 2022

本研究通过与最新方法（集成渐变、保守 LRP 和 ChatGPT）进行对比实证调查，收集和分析了 156 个人生成的文本和基于显著性的解释，并发现与机器显著性图相比，人工显著性图尤其在解释人工智能结果时更具说明性，但其性能与对人工智能模型和解释的信任负相关，揭示了人工智能解释中的困境：当有助于理解错误的人工智能预测时，会降低任务表现。

Apr, 2024

该研究提出了一个用于视觉问答（VQA）的生成鲁棒解释的方法，该模型通过提供视觉和文本解释来解释由 VQA 模型获得的答案，使用协作相关模块应对答案与文本解释不相关和视觉解释不正确的问题。在 VQA-X 数据集上的评估中，该算法具有更好的文本和视觉解释支持，对应视觉和文本解释攻击有更强的鲁棒性，且具有高度的相关性。

Jan, 2020

本文研究了可解释人工智能模型对用户行为和性能的影响，在一项对说明性活动识别系统的控制用户研究中发现，低真实性的解释与准确的解释和没有解释的系统相比，会显着降低用户的性能和协议。研究结果表明，精确而易理解的解释至关重要，而糟糕的解释有时比没有解释更糟。

May, 2020