本文提出了 “描述性解释” 和 “说服性解释” 的区别，讨论了功能解释与认知功能和用户偏好可能相关的推理，并提出了两个研究方向来消除认知功能和解释模型之间的歧义，保持准确性和可解释性之间的权衡控制。

Nov, 2017

在高风险领域中，机器学习模型已经被广泛用于辅助决策，而开发可解释的模型的兴趣逐渐增加。然而，是否这些模型能实现预期的效果，我们缺乏实验研究来证明。本研究开展了一系列预先注册的实验，展示了具有不同要素的模型，以调查它们的可解释性。结果表明，模型越透明、特征越少，参与者越能成功地模拟模型的预测，但是参与者并没有更加倾向于紧密关注其预测，而拥有透明的模型却使参与者因信息过载难以检测和修正模型的重大错误。这些结果强调了开发可解释模型时实验测试的重要性。

Feb, 2018

研究探讨了通过对模拟响应、验证建议响应、确定建议响应的正确性并观察其输入变化等三项特定任务，来解释可解释的 AI 的互动可能。结果表明，特定的正则化可以用于优化可解释性，而一些共同点和设计原则也可能存在于解释的系统之间。我们的结果表明，认知块比变量重复更影响表现，并且这些趋势在任务和领域中保持一致。

Jan, 2019

使用心理物理学技术研究了可解释计算机视觉算法的质量，发现经典的心理物理学方法可以用于机器学习应用程序中，而无需人为干预，使用传统的自动化质量指标计算出的质量指标不能提供一致的解释方法排名，这些发现强调了只有在人机交互的自然环境中评估解释能力才能获得真实的解释能力评估。

Jul, 2021

我们对 22 位业内从业人员的半结构化访谈结果进行了定性分析，提出了在大量使用机器学习模型的组织中存在的解释性工作的特征，这表明模型可解释性通常涉及不同角色的人员之间的合作和心理模型比较，旨在建立人员和模型之间以及组织内部的信任关系。我们为设计提出了一些启示，讨论了从业者在实践中面临的解释性挑战与文献提出的方法之间的差距，并强调了可能更好地满足实际需求的研究方向。

Apr, 2020

本文提出一个基于数学框架的方法，构建以逐步可解释的模型。我们演示了应用于实际和合成数据集的实用算法，并定量化了 “可解释性” 的 “价格” 与预测准确性的权衡。

Jul, 2019

本文基于数据分析角度，对人机协同中的数据处理、模型训练和系统独立模式，进行了调查总结，分类整理，提供了自然语言处理、计算机视觉等多领域的技术优势 / 缺陷、挑战和机遇，提出了有效设计人机协同解决方案的思路。

Aug, 2021

在这项研究中，作者们使用基于众包的注释任务和心理物理学技术来评估可解释的计算机视觉算法的透明度质量，与没有人类参与的质量度量进行比较，并发现众包实验提供了一种稳健的质量评估方法。同时，文中提到在解释性方法排名、以及对人类是否有用方面，没有人类参与的质量度量与实际情况不符，为了获得对解释性的真实评估，应该在人类 - 机器学习交互的自然环境中进行评估。

Nov, 2019

本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

Jul, 2018

我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

Apr, 2022