本研究提出了一种混合模型，将经典时间序列模型与基于深度神经网络的模型结合起来，通过全局深度组件实现可扩展性和数据驱动，同时通过本地经典模型处理不确定性。实验证明，该模型在数据效率、准确性和计算复杂性方面具有优势。

May, 2019

本研究探讨了一种利用潜在特征产生对照解释的新方向，通过添加新特征改变分类结果的方法进行预测的解释，证明了该方法在样本丰富的数据集上产生的直观解释优于其他方法，并可作为目前最先进的解释性方法的补充。

May, 2019

本文在财务领域探讨复杂机器学习模型的解释方法。通过使用生成对抗网络生成合成数据并训练一种新型的分段线性模型，能够提供更好的局部后续模型无关解释，其中包括对单个特征的归因以及对其背景的解释。

Sep, 2020

我们研究了基于表格数据训练的预测模型的全局事后解释的健壮性。预测模型中预测特征的影响是模型调试和应用科学中的重要诊断工具，然而它们在面对数据和模型扰动时的脆弱性仍然是一个未解决的研究问题。我们引入了一些理论界限来评估偏依赖图和累积局部效应的健壮性。我们的实验结果使用合成和真实数据集量化了（误）解释机器学习预测全局情况下最佳和最差情况之间的差距。

Jun, 2024

该研究评估了传统（XGBoost）和深度学习（LSTM with Attention）模型在全局和个别预测水平上的可解释性表现，并比较了三种流行的解释性方法：SHapley Additive exPlanations（SHAP）、Layer-Wise Relevance Propagation（LRP）和 Attention。该研究发现，总体而言，使用 SHAP 或 LRP 的 LSTM 提供了优于 XGBoost 的可解释性表现，而带有点积 Attention 的 LSTM 则未能产生合理的结果。

Nov, 2022

通过运用博弈论、局部特征交互作用效应和全局模型结构，我们实现了对基于树的机器学习模型的高可解释性，应用于三个医疗机器学习问题，在透露模型全局结构的同时保持其基本特征，识别出美国人口中高强度但低频率的非线性死亡风险因素，突显具有共同危险特征的明显人口亚组，识别出慢性肾脏疾病危险因素之间的非线性交互作用效应，并监测在医院部署的机器学习模型（Identifying factors leading to model's performance decay over time）

May, 2019

本文提出了一种方法，通过对黑匣子分类器的决策函数进行抽样来学习可解释的替代模型，从而获得全局解释。该方法提供了一种统一解决方案，以简单的分类器逼近非线性决策边界，同时保持原来的分类准确性。我们使用私人住宅抵押违约数据集作为示例，说明了这种方法确保预处理期间属性的可分解性的可行性。

Nov, 2018

本文提出了一种结合了经典时间序列模型和深度神经网络优点的数据驱动和可扩展的混合模型，通过潜在的全局深层次组件和局部的经典高斯过程模型来处理不确定性，并在实践中展示了比现有技术更高的准确性。

Nov, 2018

本文提出了一个可视化分析工作流程，以支持全局和局部解释的无缝转换，重点是基于时间序列分类的属性和反事实分析，通过采用本地 XAI 技术（归因），将其应用于传统数据集（图像，文本）来分析时间序列分类，进而生成全局概览。

Jul, 2023

通过对深度神经网络的局部解释方法进行研究，发现具有随机初始化权重的 DNN 与具有学习权重的 DNN 的解释在视觉和数量上都很相似，可能是因为较低层次的特征被 DNN 的结构所主导，这对学习到的表示具有极大的影响。

Oct, 2018