本文讨论明确的知识，特别是本体论在可解释的人工智能和人类中心的可解释系统及可理解解释的发展中所起的不同角色。我们考虑到本体论在参考建模、常识推理和知识完善与复杂性管理方面能够做出的显著贡献，并概述了一些现有的方法，将它们与这三个提出的视角进行了定位。最后，本文讨论了仍需解决的挑战，以实现基于本体论的解释方法，并评估其人类理解能力和有效性。

Nov, 2023

该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

Nov, 2018

本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

Mar, 2023

本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

Feb, 2021

本研究探讨了可解释性人工智能（XAI）中说明的特征和其效用评估，强调了说明的功能角色、用户知识状态以及生成说明所需的信息的要求，并定义了 XAI 领域的重要下一步：建立指导和基础系统生成说明效用的度量标准，以避免 XAI 可能带来的对系统的信任而没有建立其可靠性。

Jun, 2022

本文对可解释人工智能系统进行了历史概述，重点介绍了知识驱动的系统，在专家系统、认知助手、语义应用和机器学习领域的应用，提出了新的解释和可解释知识驱动系统的定义，以填补现有方法的不足并使解释更加用户和上下文关注。

Mar, 2020

该研究提出了一种面向终端用户的解释性人工智能框架 EUCA，其中包括 12 种不需要技术知识就可以理解的终端用户友好型解释形式，并进行用户研究来共同设计低保真度原型。

Feb, 2021

研究如何让领域专家能够有效地与机器学习模型进行互动和问责，通过自然语言对话的形式提供交互式的解释。

Feb, 2022

该论文使用 “Explainability-by-Design” 方法，并构建了一个包含 9 个维度的分类学来生成解释以遵循各种监管框架或组织层面的政策需求，从而帮助制定辅助性的自动合规策略，并提供一个机器可读的轻本体论，以便从一系列实例中演示起始 “Explainability-by-Design” 之旅的好处。

Jun, 2022

本文回顾了近期文献，提出了可解释人工智能系统的设计指南以及可解释人工智能领域的规范化贡献。该文章提出了一个框架，以指导选择可解释人工智能方法的类别，进而解释重要属性的相对重要性。同时也发现，尽管定量评价指标对于客观标准化评估很重要，但对于某些属性（如 “清晰度”）和解释类型（如 “基于实例的方法”）仍然缺乏。最终的结论是，可解释建模可以为可信的人工智能做出贡献，但还需要在实践中证明可解释性的好处，并可能需要采取补充措施，例如报告数据质量，进行广泛（外部）验证和监管等措施。

Jul, 2020