该研究通过一个众包实验，探讨解释机器学习模型的预测对人类是否具有帮助，并发现在给定特征系数的情况下，人们能够更有效地对线性词袋模型进行操纵，但解释对 BERT 型分类器并没有显著提高操纵能力，而通过伪造 BERT 模型的线性模型的对全局归属的解释则可以有效地操作 BERT 型模型。

Dec, 2021

提出了一种通过神经网络模型本身来评估特征归因方法的框架，使用神经网络生成关键特征来评估各种归因方法的一致性和局限性。

Mar, 2022

本文利用元学习技术，通过优化解释，使得学生模型更有效地学习模拟原始模型，探讨了提供解释的明确目标及其实现方法，在三个自然语言处理和计算机视觉任务中，通过人类注释和用户研究，发现我们提取的解释与人类解释更加贴近。

Apr, 2022

通过用户研究，本研究评估了可解释人工智能在实际场景中对人类决策的改进效果，结果发现虽然解释有助于用户更准确地描述模型，但对于模型选择和反事实模拟这两个任务，并没有找到使用任何显著改进的证据，这表明对基于显著性的解释的实用性和可能的误解需要谨慎对待。

Dec, 2023

通过研究用于文本数据的基于显著性的解释，本研究调查了多种因素（如输入，解释和可视化方式）对普通人理解解释的影响，并发现类似单词长度等表面和不相关的因素会影响解释的理解，但通过基于模型评估的方法，可以提高人们的理解能力。

Jan, 2022

本文介绍了在图神经网络中使用基于模拟的方法来量化加权图解释的固有有用性，发现相应的解释可以显著提高图神经网络的样本效率。作者认为这种有用性给出的是解释质量的一个维度，可被用作解释质量评估的新工具，特别是在图解释中。

May, 2023

机器学习和深度学习模型在教育领域中非常重要，尤其是在预测学生成功方面。本研究通过使用九种不同的解释方法并进行综合分析，探索这些方法在生成解释过程中之间的一致性与预测模型性能之间的相关性。运用 Spearman 相关性分析，我们的发现显示模型的性能与解释方法之间的一致性水平存在非常强的相关性。

May, 2024

本文探讨了一些适用于 CNN 文本分类的模型无关和模型特定解释方法，并进行了三次人类评估来揭示这些方法揭示模型行为、证明模型预测和帮助人类调查不确定预测的不同效果。结果表明，这些方法具有不同的性质，并且可以为每个目的提供帮助。

Aug, 2019

本文探讨了解释质量的评估以及当前主流的代理分数评价方法的问题，得出代理分数与人类评分相关性较差，且使用频率越高表达能力越弱的结论，最终提出指导方针以实现有意义的评价和推动系统的发展。

Oct, 2022

我们提出了一种选择性解释的特征归因方法，它检测出深度学习模型产生低质量解释的情况，并使用初始猜测解释技术改善这些解释，从而使实践者能够在提供初始猜测的解释之间进行选择，从而弥补了深度学习模型及其高质量对应物之间的差距。

May, 2024