我们介绍了一个使用可解释的人工智能（XAI）的智能系统（CL-XAI）用于认知学习的研究，其两个主要目标是探索人类学习者如何理解使用 XAI 工具的人工智能模型的内部机制，并通过人类反馈评估这些工具的有效性。使用 CL-XAI 在一个基于游戏的虚拟案例中说明了其应用，学习者通过解决组合问题来增强解决问题的能力和加深对复杂概念的理解，突出了认知学习和协同学习中潜在的转变性进展。

Dec, 2023

本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

Feb, 2021

本研究提出了一种自我解释的 AI 的概念，它能够解释其决策的机制并提供信心水平，但由于深度神经网络的双下降现象，训练复杂真实世界数据的神经网络难以解释和外推，因此深度学习系统需要包括特定预警来保证其应用的安全性。

Feb, 2020

通过训练 AI 系统构建自身的因果模型，我们提出 Causal Self-Talk 方法，作用于 Deep RL agents，并在模拟 3D 环境中实现，使得这些 agents 能够生成准确的和有意义的行为解释，从而提供了构建语义控制接口的新方法。

Nov, 2022

SelfExplain 是一种新型的自解释模型，通过基于短语的概念解释文本分类器的预测，在不降低性能的同时增加可解释性，实验结果表明 SelfExplain 的解释能力足以促进模型的置信度。

Mar, 2021

该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

Nov, 2018

有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

May, 2018

利用大型语言模型将机器学习解释转化为自然的人类可读叙述，以增强解释性和可用性。

May, 2024

本文提出了一种基于人类交流行为启发的可选择性解释框架，通过选择性地展示大量模型原因的子集，根据受众的偏好来尝试解决解释型 AI 算法在如何生成和消耗解释方面存在重大差距的问题，并通过决策支持任务和实验研究证明了其减少依赖 AI 和提高决策结果和主观感知的潜力。

Jan, 2023

该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

Oct, 2022