本论文提出了一个自动、交互式、可扩展且易于访问的框架，包括上下文建模和推理两个模块，提出了一种基于模板的图像标题生成方法，利用大规模语言模型来提供解释，以解决图像热力图的自动化问题。实验证明了该框架和热力图生成方法的有效性。

Apr, 2023

本文研究基于热图的可解释 AI 方法在图像分类问题中的质量，并且提出了一个新的分布来显示正确预测和错误预测之间的鲜明差异。最后，提出了一种名为 “生成增强解释” 的方法，可生成能够提高预测精度的热图。

Dec, 2021

通过采用解释性人工智能技术和预训练的目标检测器，本文提出了一个名为 TbExplain 的框架，用于针对场景分类模型提供基于文本的解释。此外，TbExplain 还结合了一种新的方法，在初始预测不可靠时基于输入图像中的对象统计数据进行预测校正和文本解释。定性实验结果表明，基于文本的解释是相当可靠的。此外，在场景分类数据集上的定量和定性实验结果显示，TbExplain 相较于 ResNet 变种在分类准确性方面取得了改进。

Jul, 2023

本文提出了一种可视化深度神经网络分类决策的方法，使用基于区域扰动的方法评估热图，并比较了三种不同方法计算的热图对网络分类决策的解释力，结果发现基于层级相关传播方法对解释分类决策的效果更好。同时，本文还探讨了利用热图进行神经网络性能无监督评估的方法。

Sep, 2015

本文提出了一种基于 CLEVR 视觉问题回答任务的基准评估框架，在十种不同的 XAI 方法上进行比较和评估，结果得到了新的关于 XAI 方法质量和属性的深入认识。

Mar, 2020

本文介绍了解释方法在数字病理学中的应用，以生成热图来解决深度学习方法在数字组织病理学分析中遇到的常见问题，包括对组织病理学数据固有的偏见。通过像素级热图的方法，我们能够精确诊断并帮助发现和消除数据中的偏见，证明解释方法是数字病理学应用开发和部署阶段中的有益工具。

Aug, 2019

研究神经网络的预测可视化解释，并评价这些解释的好坏。其中，绝大多数评价方法使用 ImageNet-1k 和人工检测评估结果，结果表明评价方法之间缺乏一致性。同时，解释的稀疏性对评价方法的表现具有显著影响。

Feb, 2023

本论文针对医学图像 AI 模型预测结果的解释问题，提出了基于不同模态的特征重要性度量方法，对 16 种 heatmap 算法进行评估，结果表明这些算法不能很好地解释多模态医学图像的 AI 模型预测结果，因此需要基于该研究提出的度量方法设计 XAI 算法以满足临床应用要求。

Mar, 2022

文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了 12 个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量 XAI 评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的 XAI 方法。

Jan, 2022

通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

Oct, 2023