基于类别关联嵌入和循环对抗生成的医学图像全局可解释学习

Jun, 2023

基于类别关联嵌入和循环对抗生成的医学图像全局可解释学习

Active Globally Explainable Learning for Medical Images via Class Association Embedding and Cyclic Adversarial Generation

PDF

Ruitao Xie, Jingbang Chen, Limai Jiang, Rui Xiao, Yi Pan...

TL;DR本研究提出了一种基于类别关联嵌入的方法来进一步优化可解释人工智能（XAI），并在医学图像分类任务中证明其有效性，该方法利用了循环对抗性学习策略，通过生成具有相同个体特征但不同类别分配的中间类别样本，优化类别特征区分度，并从对立分类的路径中提取过渡规则以达到更好的可解释性。

Abstract

Explainability poses a major challenge to artificial intelligence (AI) techniques. Current studies on explainable ai (XAI) lack the efficiency of extracting global knowledge about the learning task, thus suffer deficiencies such as imprecise saliency, context-aware absence and vague me

explainable ai class association embedding adversarial learning medical image classification active xai

发现论文，激发创造

使用类别关联嵌入的图像分类器精确解释模型

图像分类是数据分析中的一个主要任务，其中需要关注解释性模型；本研究提出了一个结合全局和局部知识优势的生成式解释模型来解释图像分类器，通过一种表征学习方法实现了对每个样本的解释，并将其与现有方法进行了对比，结果表明该方法能够取得更高的准确度。

Jun, 2024

聚合类别激活图的可视化分析全局类特征的方法

使用 Class Activation Maps（CAMs）方法对深度学习模型进行全局解释，通过方块表示每个特征的分类影响，大小描述了不同样本间影响的变化，提供交互式直方图进行进一步分析筛选，从而在高维数据中检测重要特征并根据全局解释进行 AI 模型调整。

Jul, 2023

概念嵌入分析：综述

本文介绍了可解释人工智能（XAI）中的概念分析（CA）方法及其在深度神经网络内的应用，提供了一般性的 CA 定义和分类，总结了 30 多种相关方法和 15 个数据集，同时指出了未来研究方向和挑战。

Mar, 2022

自我评估的关联嵌入用于大规模知识迁移

本文提出了一种在 ImageNet 中进行语义相关类之间的知识迁移的方法，利用相关类外的图像的知识，实现自动填充 ImageNet 的边界框和像素级分割，并使用新颖的联想嵌入表示法来形式化对象从语义相关类中相似的外观，通过高斯过程回归模拟窗口和对象之间的重叠，使其具有自我评估和交易返回注释数量和质量的能力，并在大规模实验中证明了其在目标定位和分割方面胜过现有方法和基线模型。

Dec, 2013

测试语义全局概念的模型检测

黑盒深度神经网络 (DNNs) 的质量保证变得越来越重要，特别是在自动驾驶等安全关键领域。通过将全局概念编码与单个网络输入的局部处理联系起来，我们提出了一个名为全局到局部概念归因 (glCA) 的框架，利用局部可解释人工智能 (xAI) 的方法来测试 DNNs 在预定义的语义概念上的局部性。该方法可以将局部、事后解释与在模型的潜在空间中以线性方向编码的预定义语义概念相条件联结。关于全局概念使用的像素精确评分有助于理解模型处理所选概念单个数据点的方式。我们的方法具有全面覆盖语义概念的模型内部编码和定位相关概念相关信息的优势。结果显示在局部感知和使用个别全局概念编码方面存在重大差异，并需要进一步研究以获得全面的语义概念编码。

May, 2024

AS-XAI: 卷积神经网络的自我监督自动语义解释

提出自我监督的自动语义可解释人工智能框架 (AS-XAI)，利用透明正交嵌入语义提取空间和行居中主成分分析 (PCA) 来全局语义解释模型决策，在没有人为干预的情况下产生了人可理解的解释。

Dec, 2023

CALIME：基于因果关系的本地可解释模型无关解释

本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

Dec, 2022

卷积网络中嵌入编码器解码器以实现可解释的 AI

本文介绍了一种新的可解释卷积神经网络（XCNN），能够表示视觉刺激的重要和驱动特征，并提供了无需本地化标签和额外后处理步骤的热图生成。在多个数据集上的实验证明了 XCNN 的成功，验证了其在类别特定特征表示和可解释热图生成方面的性能优于当前算法，同时提供了简单灵活的网络结构，为提高可解释的弱监督定位和语义分割奠定了基础。

Jun, 2020

多标签分类任务的深度潜变空间学习

本文提出了一种基于深度神经网络的模型 Canonical Correlated AutoEncoder（C2AE），在多标签分类任务中通过联合特征和标签嵌入派生一个深度潜在空间，并引入标签相关敏感的损失函数来恢复预测的标签输出，其能够灵活应对多种规模的数据集，与其他现有的多标签分类方法相比表现更加优异。

Jul, 2017

一种高效的集成可解释人工智能（XAI）方法用于人脸混合检测

本研究提出了一种名为 Ensemble XAI 的新型可视化解释方法，它整合了显著性地图、类激活映射和渐变 - 类激活映射，以提供更全面的可视化解释，用于预测输入是否为伪造的仿制品的深度学习预测模型。通过实验评估，该解释方法可以准确地说明深度学习模型的决策过程。

Apr, 2023