我们在该研究中探索了草图的独特模态来增加可解释性，强调人类笔画相对于传统面向像素的研究的深远影响。我们提出了一个轻量级且便携的可解释性解决方案 —— 一种无缝插件，可以与任何预训练模型无缝集成，并消除了重新训练的需求。我们通过展示四种应用程序来演示其适应性：高度研究的检索和生成，以及全新的辅助绘图和草图对抗攻击。我们的解决方案的核心是一个笔画级归因图，在与下游任务相连接时采用不同形式。通过解决栅格化的固有非可微性，我们实现了对粗略笔画级（SLA）和部分笔画级（P-SLA）的解释，每个级别都具有特定下游任务的优势。

Mar, 2024

深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的 “黑匣子” 性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个 “黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个 XAI 基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过 10 种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个 XAI 数据集合和用于评估的易于使用的代码公开可访问。

Oct, 2023

本文提出了第一种基于笔画级别的速写抽象模型，并通过强化学习训练了一个笔画去除策略，该模型能够用于各种速写分析任务，包括建模笔画显著性、合成具有可变抽象度的速写以及使用仅照片训练细粒度速写检索模型。

Apr, 2018

通过 SEVA 数据集，对视觉算法进行评估，探索模拟人类视觉抽象能力的模型在生成任务中的潜力，以促进实现增强人类类似的视觉抽象能力的算法的进展。

Dec, 2023

融合计算机和人类视觉的方法，以增加面部验证算法决策的可解释性，并提供人类可理解的决策洞察力。

Jan, 2024

研究人员提出了一种心理学理论，解释了人们如何从显著性图中得出结论，为 XAI 中的精确预测和验证提供了理论依据，并进行了一项用户研究以验证该理论。

May, 2022

本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

Jun, 2020

通过形式化说明解释是什么，提出一些公理和定义来澄清可解释的人工智能的数学角度。最后，我们提出了一个 Greybox XAI 框架，该框架通过使用符号知识库将 DNN 和透明模型组成。我们从数据集中提取知识库，并使用它来训练透明模型（即逻辑回归）。然后，我们在 RGB 图像上训练编码器 - 解码器架构，以产生类似于透明模型使用的知识库的输出。一旦两个模型独立地训练好后，它们就在组成的形式上用于形成可以解释的预测模型。我们展示了这种新的架构在几个数据集中是准确的和可以解释的。

Sep, 2022

这篇论文针对 XAI 在语义图像分割中的应用，提出了第一份全面的综述。文章对应用类别、领域、评估指标和数据集进行了分析和分类，并提出了可解释的语义分割的分类体系，讨论了潜在的挑战和未来研究方向。

May, 2024

提出自我监督的自动语义可解释人工智能框架 (AS-XAI)，利用透明正交嵌入语义提取空间和行居中主成分分析 (PCA) 来全局语义解释模型决策，在没有人为干预的情况下产生了人可理解的解释。

Dec, 2023