介绍当前自然语言处理中可解释AI的现状和对主要解释的分类，探究生成和可视化解释的各种方式和操作，详细介绍了为NLP模型预测生成解释的可用操作和可解释性技术，并提出当前领域研究存在的差距和未来方向。

Oct, 2020

本文提出了语义可解释人工智能（S-XAI）框架，利用基因算法发现的最佳超像素的共同特征和可视化技术提取了理解的语义空间，同时提供了语义空间的统计解释和语义概率的概念。实验结果表明，S-XAI在为CNN提供更好的语义解释方面是有效的，具有广泛的应用价值，包括可信度评估和语义样本搜索。

Apr, 2022

本篇论文提出两种方法来量化CNN潜在空间中语义信息的相似度，以解决模型透明性问题。通过将这些方法应用于三种不同的目标检测器和两个数据集，我们的研究表明相似的语义概念是在所有CNN体系结构中学习的，且相似的概念出现在相似的相对层深度中，而与总层数无关。该研究成果有望实现CNN模型选择的知情和语义信息处理的理解。

Apr, 2023

本文提出了一个框架来统一解释人工智能（XAI）领域的挑战。尽管XAI方法可以为机器学习模型提供有用的输出，但研究人员和决策者需要注意这些方法的概念和技术限制，这些限制通常导致这些方法本身变成黑匣子。作者使用图像、文本和图形数据，研究了涉及突出显示、关注和图形解释器的三种XAI研究途径。尽管这些案例的背景和时间跨度各不相同，但是同样的持续困难仍然出现，这凸显了在此领域要应对XAI方法和应用任务之间兼容性挑战的概念突破的必要性。

Jul, 2023

我们提出了一种新的评估方法，用于基准测试最先进的可解释AI归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于XAI方法输出的更深入的洞察。

Aug, 2023

该论文提供了自然基于示例的可解释人工智能领域的现状概述，描述了每种方法的优点和缺点，并比较了它们的语义定义、认知影响和附加价值。希望这将鼓励和促进未来在此领域的工作。

Sep, 2023

深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的“黑匣子”性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个“黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个XAI基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过10种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个XAI数据集合和用于评估的易于使用的代码公开可访问。

Oct, 2023

提出自我监督的自动语义可解释人工智能框架(AS-XAI)，利用透明正交嵌入语义提取空间和行居中主成分分析(PCA)来全局语义解释模型决策，在没有人为干预的情况下产生了人可理解的解释。

Dec, 2023

通过利用人类认知能力渐进地接收更多细节来提供更详细的解释，通过提供基础+递增因素来帮助用户阅读和记住更准确的解释，从而改善可理解性和可记忆性，并评估Incremental XAI相较于基准解释方法在忠实度、可记忆性和可理解性方面的性能。

Apr, 2024

面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的XAI的模型不可知方法SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

May, 2024