Jun, 2023

基准数据用于研究预训练对磁共振图像分类解释性能的影响

PDF
TL;DR本研究提出了针对磁共振成像分类任务的基准数据集，并利用该数据集了解迁移学习对解释质量的影响。实验结果表明，应用于相同基础模型的流行的 XAI 方法在性能上有很大差异，即使只考虑分类正确的例子。我们进一步观察到，解释性能强烈依赖于用于预训练的任务和预训练的 CNN 层数。
convolutional neural networksmedical predictiontransfer learningexplainable artificial intelligencemri classification
发现论文，激发创造
  • 探讨可解释人工智能方法对地球科学中卷积神经网络应用的保真度

    本文通过对最流行的 XAI 方法的比较和探究它们在地球科学应用中的准确性，强调了 XAI 方法在 CNN 决策方法解释方面的重要性和局限性，并通过应用于气候相关预测来说明，帮助深层学习方法更好地用于预测问题

    Feb, 2022

  • XAI-TRIS: 量化机器学习解释能力的非线性基准测试

    本文探讨不同非线性分类场景下，解释性人工智能模型的表现，并通过一系列实验测试发现，当前流行的 XAI 方法往往无法显著提高准确性基线和边缘检测方法，甚至在不同模型结构下产生非常不同的解释，存在误解的风险。

    Jun, 2023

  • 视觉解释的可解释人工智能基准

    深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的 “黑匣子” 性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个 “黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个 XAI 基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过 10 种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个 XAI 数据集合和用于评估的易于使用的代码公开可访问。

    Oct, 2023

  • 可解释人工智能方法在医学影像分类中的应用分析

    在医疗领域中，应用深度学习进行医学图像分类已成为趋势。然而，这种人工智能系统是极其复杂的 “黑匣子” 模型，难以解释其预测的原因。因此，研究探索可解释的人工智能（XAI）方法，以更好地应用于医学领域。本文通过对卷积神经网络模型进行规范化学图像分类，从三种不同的 XAI 方法对模型进行了可视化的研究和分析。

    Dec, 2022

  • 解析 AI 归因方法的精确基准测试

    我们提出了一种新的评估方法，用于基准测试最先进的可解释 AI 归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于 XAI 方法输出的更深入的洞察。

    Aug, 2023

  • 提高乳腺癌诊断在乳房 X 射线摄影中：卷积神经网络和可解释人工智能的评估和集成

    通过将卷积神经网络（CNN）和可解释人工智能（XAI）相结合的综合框架，该研究在使用 CBIS-DDSM 数据集进行增强的乳腺癌诊断方面进行了介绍。研究结果显示，CNN 和 XAI 的有效合作有助于推进乳腺癌的诊断方法，从而在临床设置中更无缝地集成先进的人工智能技术，并通过提高 AI 决策的可解释性，为医学专业人员和患者提供更好的协作。

    Apr, 2024

  • 基于 CNN 的解释集成用于数据集、表示和解释评估

    通过合并深度分类模型生成的解释，研究人员探索了可解释人工智能的潜力，以揭示模型行为的更一致和可靠的模式，进而评估模型所学到的表示。使用选定的 Quantus 库评估指标，证明该方法在本地化和可信度方面的性能优于单个解释。

    Apr, 2024

  • 基于 CLEVR-XAI 的神经网络解释的地面真实性评估

    本文提出了一种基于 CLEVR 视觉问题回答任务的基准评估框架，在十种不同的 XAI 方法上进行比较和评估，结果得到了新的关于 XAI 方法质量和属性的深入认识。

    Mar, 2020

  • 深度神经网络的解释处理

    本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

    Nov, 2022

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024