本文研究机器学习模型的解释方法对模型可解释性方面的影响，通过两类涉及文本和表格数据的模拟测试，评估了五种解释方法的有效性，表明模型可模拟性在分类表格方面使用 LIME 可以得到改善，而我们的 Prototype 方法在反事实的模拟测试中也是有效的。本文的结果显示，我们需要对评估解释方法的指标进行谨慎处理，并且当前方法仍有很大的改进空间。

May, 2020

该研究旨在生成能满足数据和用户要求的本地解释，以便解释已部署的机器学习模型。通过增强一种广泛使用的基于规则的解释方法、引入一种评估线性解释逼近模型适用性的新方法，并对两种对照解释方法家族进行比较实验，从而为任何模型生成可靠且用户可理解的解释方法提供了一种途径。此外，该研究通过用户实验评估了三种解释方法和两种不同表示形式的影响，测量用户在理解和信任方面对模型交互的感知。通过提升解释生成的质量，该研究对增强已部署的人工智能系统的透明度、可信度和可用性具有潜在的影响。

Feb, 2024

通过从图神经网络的预测中提取全局概念解释的方法，我们提出了一种超越提高信任和验证模型公平性的 xAI 实践，还能够在几乎没有人类先验直觉的应用领域中发现有价值的科学见解，从而对结构 - 性质关系的任务进行更深入的理解。

Apr, 2024

我们提出利用形式证明来推进几个可解释的自然语言推理（NLI）任务的方法，并利用可靠和高性能的基于逻辑的 NLI 系统生成形式证明。通过利用生成的形式证明中的深度信息，我们展示了如何使用它来定义具有结构化解释的 NLI 任务。所提出的任务可以根据解释的粒度难度进行排序，并且我们认为这些任务在许多方面都比现有的可解释 NLI 任务（或数据集）具有更少缺陷。

Nov, 2023

该研究通过一个众包实验，探讨解释机器学习模型的预测对人类是否具有帮助，并发现在给定特征系数的情况下，人们能够更有效地对线性词袋模型进行操纵，但解释对 BERT 型分类器并没有显著提高操纵能力，而通过伪造 BERT 模型的线性模型的对全局归属的解释则可以有效地操作 BERT 型模型。

Dec, 2021

介绍了一种算法无关的可解释的替代建模方法，以评估终身学习算法的潜在特性，并通过对合成数据的实验验证了该方法的有效性。

Jul, 2022

本文介绍了一种名为 ExPred 的新方法，采用多任务学习的方法，在任务输入的解释生成阶段有效地平衡了解释和预测的损失，并使用另一个预测网络来优化任务性能。在三个不同的语言数据集上进行了广泛的评估，发现我们明显优于现有方法。

Jan, 2021

通过用户研究，本研究评估了可解释人工智能在实际场景中对人类决策的改进效果，结果发现虽然解释有助于用户更准确地描述模型，但对于模型选择和反事实模拟这两个任务，并没有找到使用任何显著改进的证据，这表明对基于显著性的解释的实用性和可能的误解需要谨慎对待。

Dec, 2023

本文介绍了在图神经网络中使用基于模拟的方法来量化加权图解释的固有有用性，发现相应的解释可以显著提高图神经网络的样本效率。作者认为这种有用性给出的是解释质量的一个维度，可被用作解释质量评估的新工具，特别是在图解释中。

May, 2023

本文利用元学习技术，通过优化解释，使得学生模型更有效地学习模拟原始模型，探讨了提供解释的明确目标及其实现方法，在三个自然语言处理和计算机视觉任务中，通过人类注释和用户研究，发现我们提取的解释与人类解释更加贴近。

Apr, 2022