Oct, 2023

可训练噪声模型作为 XAI 评估方法：用于遥感图像分割的 Sobol 应用

PDF
TL;DR该研究采用最近的无梯度 Sobol 解释模型方法对语义分割进行了实验，提出了一种基于可学习噪声模型的量化解释评价方法，在高分辨率卫星图像上运行和评估了三种 XAI 方法，包括 Seg-Grad-CAM、Seg-Grad-CAM++ 和 Seg-Sobol。
explainable artificial intelligencexaiimage segmentationsobol methodquantitative evaluation
发现论文，激发创造
  • 扩展基于 CAM 的遥感图像分割的可解释人工智能方法

    通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

    Oct, 2023

  • 医学、工业及其他领域图像分割中的可解释人工智能（XAI）：一项调研

    这篇论文针对 XAI 在语义图像分割中的应用，提出了第一份全面的综述。文章对应用类别、领域、评估指标和数据集进行了分析和分类，并提出了可解释的语义分割的分类体系，讨论了潜在的挑战和未来研究方向。

    May, 2024

  • 基于 XAI 增强的语义分割模型用于视觉质量检测

    通过使用基于 CAM 的解释来完善语义分割模型，本研究提出了提升视觉质量检测系统的框架。该框架包括模型训练、基于 XAI 的模型解释、XAI 评估和注释增强等步骤，通过解释和专家洞见进行指导。评估结果表明，基于 XAI 的模型在复杂目标分割方面优于原始的 DeepLabv3-ResNet101 模型。

    Jan, 2024

  • 遥感图像分类的一次属性可解释人工智能方法的定量分析

    本文通过量化评估解释性人工智能技术对遥感图像分类的影响，深入分析了不同类型模型选用 XAI 方法所获得的结果，提供了选择最合适的解释性方法来了解模型决策过程的建议和见解。

    Jun, 2023

  • 寻找合适的 XAI 方法 -- 评估和排名可解释气候科学人工智能方法指南

    本研究介绍了 XAI 在气候研究中的应用，并评估了不同的解释属性，建立在先前的工作和训练多层感知器 MLP 和卷积神经网络 CNN 进行预测，我们发现 Integrated Gradients，Layer-wise relevance propagation 和 InputGradients 表现得很好。

    Mar, 2023

  • AS-XAI: 卷积神经网络的自我监督自动语义解释

    提出自我监督的自动语义可解释人工智能框架 (AS-XAI)，利用透明正交嵌入语义提取空间和行居中主成分分析 (PCA) 来全局语义解释模型决策，在没有人为干预的情况下产生了人可理解的解释。

    Dec, 2023

  • SAFARI: 用于鲁棒性和可解释性的多功能高效评估

    本文提出两种黑盒评价方法来评估深度学习模型的可解释性的鲁棒性，使用 GA 和 SS 算法来解决实际中的机器学习难题，介绍了两种度量标准，成功地提高了准确性、敏感性和效率，并应用于 XAI 方法的排序和选择训练方案以提高分类和解释鲁棒性。

    Aug, 2022

  • 解析 AI 归因方法的精确基准测试

    我们提出了一种新的评估方法，用于基准测试最先进的可解释 AI 归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于 XAI 方法输出的更深入的洞察。

    Aug, 2023

  • 探讨可解释人工智能方法对地球科学中卷积神经网络应用的保真度

    本文通过对最流行的 XAI 方法的比较和探究它们在地球科学应用中的准确性，强调了 XAI 方法在 CNN 决策方法解释方面的重要性和局限性，并通过应用于气候相关预测来说明，帮助深层学习方法更好地用于预测问题

    Feb, 2022

  • 一种生成带有 XAI 地面真实性数据集的方法，以评估图像模型的新方法

    本研究提出了一种生成具有真实标准数据集的新方法来衡量可解释人工智能的解释质量，并通过实验证明了该方法的正确性。

    Feb, 2023