卷积神经网络的语义解释：什么使得一只猫成为猫？

Apr, 2022

卷积神经网络的语义解释：什么使得一只猫成为猫？

Semantic interpretation for convolutional neural networks: What makes a cat a cat?

Hao Xu, Yuntian Chen, Dongxiao Zhang

TL;DR本文提出了语义可解释人工智能（S-XAI）框架，利用基因算法发现的最佳超像素的共同特征和可视化技术提取了理解的语义空间，同时提供了语义空间的统计解释和语义概率的概念。实验结果表明，S-XAI 在为 CNN 提供更好的语义解释方面是有效的，具有广泛的应用价值，包括可信度评估和语义样本搜索。

Abstract

The interpretability of deep neural networks has attracted increasing attention in recent years, and several methods have been created to interpret the "black box" model. Fundamental limitations remain, however,

deep neural networks interpretability semantic space s-xai visualization techniques

发现论文，激发创造

AS-XAI: 卷积神经网络的自我监督自动语义解释

提出自我监督的自动语义可解释人工智能框架 (AS-XAI)，利用透明正交嵌入语义提取空间和行居中主成分分析 (PCA) 来全局语义解释模型决策，在没有人为干预的情况下产生了人可理解的解释。

Dec, 2023

可解释的组合卷积神经网络

通过修改传统卷积神经网络，将其转化为可解释的组合卷积神经网络，以学习中间卷积层中编码有意义的视觉模式的滤波器，从而实现语义可解释的 AI，该方法可以广泛应用于不同类型的 CNN，并且实验效果良好。

Jul, 2021

利用语义信息提高深度神经网络的可解释性

本文提出了一种新颖的技术，通过利用人类描述中蕴含的丰富语义信息来提高深度神经网络的可解释性，特别是在视频字幕任务中，通过一个可解释损失将人类描述中的一组语义相关主题集成到模型中，并提出了一种预测差异最大化算法来解释每个神经元的学习特征。实验结果表明这种方法在视频字幕和视频动作识别方面非常有效。

Mar, 2017

卷积神经网络的量化语义比较

本篇论文提出两种方法来量化 CNN 潜在空间中语义信息的相似度，以解决模型透明性问题。通过将这些方法应用于三种不同的目标检测器和两个数据集，我们的研究表明相似的语义概念是在所有 CNN 体系结构中学习的，且相似的概念出现在相似的相对层深度中，而与总层数无关。该研究成果有望实现 CNN 模型选择的知情和语义信息处理的理解。

Apr, 2023

层次语义树概念白化用于可解释的图像分类

通过在深度模型中主动注入知识，使用语义概念的层次树规范化图像数据实例的表达方式，提高模型可解释性，改善语义概念的分离，并不会对模型的分类性能产生负面影响。

Jul, 2023

卷积网络中嵌入编码器解码器以实现可解释的 AI

本文介绍了一种新的可解释卷积神经网络（XCNN），能够表示视觉刺激的重要和驱动特征，并提供了无需本地化标签和额外后处理步骤的热图生成。在多个数据集上的实验证明了 XCNN 的成功，验证了其在类别特定特征表示和可解释热图生成方面的性能优于当前算法，同时提供了简单灵活的网络结构，为提高可解释的弱监督定位和语义分割奠定了基础。

Jun, 2020

扩展基于 CAM 的遥感图像分割的可解释人工智能方法

通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

Oct, 2023

卷积神经网络中语义可解释激活图：what-where-how 解释

本文提出一种名为 SIAM 的中间表示方式，通过其生成属性地图并结合线性组合的方法，实现了将 CNN 中的决策过程更为直观化、可解释的效果，并通过景观美学价值评估任务验证了其有效性。

Sep, 2019

语义和数量化解释神经网络

本篇论文提出了一种从卷积神经网络中提取和解释知识的方法，并通过可解释的加性模型量化地解释了神经网络预测的理由，解决了可解释性问题和 Typical Bias-Interpreting 问题，并通过实验证明了该方法的有效性。

Dec, 2018

Greybox XAI: 一种神经符号学习框架，用于生成可解释的图像分类预测

通过形式化说明解释是什么，提出一些公理和定义来澄清可解释的人工智能的数学角度。最后，我们提出了一个 Greybox XAI 框架，该框架通过使用符号知识库将 DNN 和透明模型组成。我们从数据集中提取知识库，并使用它来训练透明模型（即逻辑回归）。然后，我们在 RGB 图像上训练编码器 - 解码器架构，以产生类似于透明模型使用的知识库的输出。一旦两个模型独立地训练好后，它们就在组成的形式上用于形成可以解释的预测模型。我们展示了这种新的架构在几个数据集中是准确的和可以解释的。

Sep, 2022