Nov, 2023

MRxaI: 医疗环境下图像分类器的黑盒可解释性

PDF
TL;DR现有的解释工具可以分为白盒和黑盒两种，医学领域的图像解释工具主要集中在白盒方法，本文对比了多种黑盒方法与 grdcam 在脑癌 MRI 数据集上的表现，发现大多数黑盒方法不适用于解释医学图像分类，而一种基于因果关系的黑盒方法能与 gradcam 同等效果。
existing toolswhite-boxblack-boxmedical image explanationsbrain cancer mri dataset
发现论文，激发创造
  • 可解释人工智能方法在医学影像分类中的应用分析

    在医疗领域中，应用深度学习进行医学图像分类已成为趋势。然而，这种人工智能系统是极其复杂的 “黑匣子” 模型，难以解释其预测的原因。因此，研究探索可解释的人工智能（XAI）方法，以更好地应用于医学领域。本文通过对卷积神经网络模型进行规范化学图像分类，从三种不同的 XAI 方法对模型进行了可视化的研究和分析。

    Dec, 2022

  • 医学图像分析中的可解释深度学习模型

    本文回顾了可解释的深度学习在医学影像任务中的应用，讨论了这种方法的不同途径，临床应用挑战以及需要进一步研究的领域。

    May, 2020

  • 通过有意义的扰动提供黑匣子的可解释性解释

    该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

    Apr, 2017

  • 医学影像诊断中可解释的深度学习方法：一项调查

    本文介绍了在医学影像诊断中应用深度学习的机会与挑战，重点讲述了可解释人工智能（XAI）在医学影像中的应用，并对解释方法、数据集和评估指标进行了综述和比较，最后探讨了深度学习在医学影像领域的未来研究方向。

    May, 2022

  • 构建医学领域可解释的 AI 系统需要什么？

    本篇论文介绍了医学领域中解释性人工智能的研究，强调让人们能够透明地理解和信任 AI/ML 技术的重要性，主要关注于图像、* 组学数据和文本三个方面。

    Dec, 2017

  • DiffExplainer: 通过反事实生成揭示黑匣子模型

    通过生成对抗图像，我们提出了一种方法来揭示影响黑盒模型的决策的关键特征，以提高医学图像分类中深度学习模型的可靠性。

    Jun, 2024

  • 平滑解释黑匣子 —— 反事实方法

    该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

    Jan, 2021

  • 图像分类器的多种不同解释

    给定一张图片的黑盒图像分类器的输出，我们描述了一种基于因果理论的算法和工具 REX，用于计算该图像的多个解释，并通过实验证明 REX 在 ImageNet-mini 基准测试上能够找到比之前方法多 7 倍的图像的多个解释。

    Sep, 2023

  • Grad-CAM 在医学图像中的可解释性

    可解释的深度学习在医学成像领域引起了广泛关注，研究探讨了可解释的深度学习和 Grad-CAM 在医学成像中的原理、应用技术及局限性，强调了它们对提高医学成像中深度学习模型精确性和解释性的潜力。

    Jul, 2023

  • 黑盒环境下类梯度解释：当黑盒解释变得如白盒一样好

    本文介绍了一种以黑盒为基础的梯度估计解释方法，称为 GEEX，通过分析梯度来揭示数据驱动方法（如深度学习模型）中做出决策的最重要特征，并将其与路径方法相结合，得到了用于图像数据的 iGEEX 方法，证明了该方法在黑盒场景中优于现有方法，并有着与完全访问的方法相媲美的性能。

    Aug, 2023