为了建立对 AI 的信任，实现透明化且易懂的 AI 系统成为了重要问题，本文提出了一种通过 AI Planning 实现初步解释的方法，并实现在新的 XAI-Plan 框架中。

Oct, 2018

该论文探讨了人工智能的交互问题，提出了一种基于模型的 AI 规划方法，以实现人类与智能系统的有效沟通和协同解决问题的目标。

Sep, 2017

该篇论文探讨可解释人工智能领域内的可解释式规划作为一项新兴研究课题，并提出了将其设计为一种服务的想法，即利用已有的规划系统构建一个包装器，以协助回答对比问题。作者针对该想法进行了原型框架的开发，并举例说明了规划器如何用于回答某些类型的对比问题，同时也讨论了此方法的主要优点和局限性，并提出了可解释式规划服务的未解决问题和研究方向。

Aug, 2019

AI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。

May, 2024

通过论证式对话的方式，我们提出了一个新的框架，使得 AI 代理能够学习和更新概率性的人类模型，从而更好地理解人类的思维状态，通过人类对其论点的信任和对自己论点的确信程度，调整概率分布，并在论证场景中的人类主体研究中证明了该方法捕捉了人类信念形成和适应的动态过程。

May, 2024

针对智能机器人的高水平任务计划存在的问题，提出了 “计划可解释性” 和 “可预测性” 的概念，通过条件随机场模型学习标签方案并对新计划进行标签，用以提高机器人计划的可解释性和可预测性，该方法经过了人机交互和实际机器人测试并取得了较好的性能。

Nov, 2015

本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

Mar, 2019

本文考虑了人机团队合作的问题，并基于计划可解释性的概念，将其扩展到考虑交互设置。结果表明，我们的算法生成的计划的可解释度得分与人类计划相当，并且比不考虑该度量的 FF 计划更好，从而更好地满足人类期望，提高人机合作效率。

Jan, 2019

解释性人工智能（XAI）可以帮助研究强化学习（RL）模型如何工作的 RL 从业者，但对于没有 RL 专业知识的用户（非 RL 专家）的 XAI 研究不够充分。我们认为，描述 RL 模型主要状态之间转换的抽象轨迹对于非 RL 专家构建对代理模型的心理模型很有用。我们的早期结果表明，通过利用抽象轨迹的可视化，没有 RL 专业知识的用户能够推断 RL 的行为模式。

Feb, 2024

本文试图在此新兴领域提供可行的相关概念分类，以应对关于智能体可解释的行为的兴趣和我们尝试回答观察者可能会归因于智能体的意图的问题的解决方案

Nov, 2018