面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

May, 2024

采用不同的方法研究了统计学、机器学习和深度学习模型在预测滑坡易发性方面的可解释性，并比较了这些模型的准确性。结果表明，卷积神经网络模型在准确性方面表现最好，而极限梯度提升和支持向量机也具有强大的预测能力，优于传统的统计模型。然而，模型的解释能力因模型而异，尤其是在使用较广泛的 19 个贡献因素时。使用专门的 9 个触发因素增加了模型的可解释性，但降低了一些预测能力。

May, 2024

提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

Oct, 2022

针对水平或旧井中经常缺失关键测井数据的问题，本文利用 SPWLA 2020 机器学习竞赛数据，使用 NGBoost 算法构建了一个集成学习模型，可以预测压缩波和剪切波测井数据，并提供结果的不确定性。通过对比其他常用的集成学习方法，研究结果表明 NGBoost 模型在测试集中表现良好，并可生成预测结果的概率分布。利用 SHAP 方法解释机器学习模型，发现中子孔隙度和伽玛射线对测井结果有关键影响。此外，该模型还可以捕捉钻孔径向对测井的影响，这一影响关系复杂且不易建立直接关系，这些发现与钻孔声学的物理原理相一致。

Aug, 2023

这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

May, 2023

该研究论文介绍了一种将科学原理和物理定律融入深度神经网络的新型物理信息机器学习（PiML）方法，用于建模非线性结构的地震响应，并通过模型降阶、长短期记忆网络（LSTM）和牛顿第二定律等特性，使模型具有相对稀疏数据的训练能力，同时提高了模型的准确性、可解释性和鲁棒性。

Feb, 2024

该论文研究了深度学习中可解释人工智能的问题，特别关注了特征加性解释器在特征加性预测器中的适用性，并对特征交互进行评估，结果显示所有解释器在正确归因特征重要性方面最终失败。

Oct, 2023

本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

Oct, 2022

为确保机器学习模型的伦理使用，该论文提出了一种基于模型不可知的可加特征归因算法（KernelSHAP）和数据协作方法的可解释数据协作框架，以应对难以解释的黑盒子模型。

Dec, 2022

该研究提出了一个框架，利用机器学习和可解释的人工智能技术，分类和识别 DDoS 攻击的合法流量和恶意流量，在使用 SHAP 进行解释后的分类器模型中，该模型的性能表现高于 99％的准确性。

Jun, 2023