通过研究解释性机器学习中的不一致性问题，本文介绍了一种定量框架来形式化不同解释方法生成的解释之间的不一致性，并通过萨实证分析和在线调查了解了数据科学家如何解决这些分歧。结果表明，当今最先进的解释方法在生成解释方面经常存在分歧，强调了开发原则性评估指标以实现有效比较解释的重要性。

Feb, 2022

该研究利用集成方法，针对预测模型的不确定性问题，提高了解释的一致性，并在金融数据集上进行实验，证明了集成方法在机器学习中提高可靠性的有效性。

Jun, 2023

机器学习模型的解释性算法和共识函数能提高准确解释模型内部工作方式和原理，本文对包含 5 种机器学习模型的 4 个综合数据集用 6 种共识函数算法进行解释，结果表明本文提出的函数较之他种函数更加公平并提供了更一致的模型解释。

Jul, 2023

该研究通过一个众包实验，探讨解释机器学习模型的预测对人类是否具有帮助，并发现在给定特征系数的情况下，人们能够更有效地对线性词袋模型进行操纵，但解释对 BERT 型分类器并没有显著提高操纵能力，而通过伪造 BERT 模型的线性模型的对全局归属的解释则可以有效地操作 BERT 型模型。

Dec, 2021

本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

Apr, 2023

研究了如何通过引入对预测误差的对比解释来提高用户对于 “黑盒” 模型的信任度，通过提出 Monte Carlo Bounds for Reasonable Predictions 算法来解释大误差并使用用户研究集体检验，结果显示编解码器生成的解释可以帮助用户更好地理解模型如何做出这些错误的预测。

Jul, 2019

我们的目标是通过从一组同样好的模型中找到符合物理定律并满足利益相关者需求的预期解释的准确模型，进而促进解释能力强的人工智能（XAI）融入科学领域。

Feb, 2024

通过报告多个反事实，可以提供一些有意义的鲁棒性保证，这篇论文提出了一种近似算法来选择最相关的解释，并在实验中证明了其在生成鲁棒性解释方面的改进。

Dec, 2023

本研究提出了一种名为 GALE 的机器学习模型，旨在提供有关模型全局决策过程的洞见。结果表明，聚合方法的选择很重要，我们的提出的聚合方法能更好地代表特征如何影响模型的预测，并通过识别区分性特征提供全局洞见。

Jul, 2019

近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

Apr, 2024