AAAIMar, 2022

评估可解释人工智能在多模态医学影像任务中的应用：现有算法是否满足临床需求？

PDF
TL;DR本论文针对医学图像 AI 模型预测结果的解释问题，提出了基于不同模态的特征重要性度量方法，对 16 种 heatmap 算法进行评估，结果表明这些算法不能很好地解释多模态医学图像的 AI 模型预测结果，因此需要基于该研究提出的度量方法设计 XAI 算法以满足临床应用要求。
heatmapsmulti-modal medical imagesartificial intelligenceclinical decision supportclinical requirements
发现论文，激发创造
  • 医学影像分析中的临床可解释人工智能指南与评估

    提出了临床 XAI 指南作为临床用户获取来自 AI 的决策支持和遵守基于证据的医疗实践的关键，它由五个优化临床 XAI 的标准组成，涵盖可理解性、临床相关性、真实性、信息可信度和计算效率等方面，对 16 种常用的热图 XAI 技术进行了系统评估，并证明了指南的可行性。

    Feb, 2022

  • 利用基于热图的可解释 AI 提高深度神经网络分类置信度

    本文研究基于热图的可解释 AI 方法在图像分类问题中的质量，并且提出了一个新的分布来显示正确预测和错误预测之间的鲜明差异。最后，提出了一种名为 “生成增强解释” 的方法，可生成能够提高预测精度的热图。

    Dec, 2021

  • 使用热图字幕和大型语言模型实现深度神经网络自解释性

    本论文提出了一个自动、交互式、可扩展且易于访问的框架，包括上下文建模和推理两个模块，提出了一种基于模板的图像标题生成方法，利用大规模语言模型来提供解释，以解决图像热力图的自动化问题。实验证明了该框架和热力图生成方法的有效性。

    Apr, 2023

  • MultiFIX：一种从多模态数据建立模型的友好的可解释人工智能特征引导方法

    基于多模态融合、解释能力及深度学习的 MultiFIX 方法用于预测模型，提取不同数据类型的特征，并应用于恶性皮肤病变的检测。

    Feb, 2024

  • SHAMSUL: 利用本地可解释性方法进行热图分析以研究医学意义

    本研究旨在通过使用四种深度神经网络可解释性方法，对多标签 - 多类胸部放射学数据集进行分析和比较，以提高医学领域的可解释性，并建议可以引入多模态信息进一步提高研究结果的准确性。

    Jul, 2023

  • TbExplain：基于文本的场景分类模型的统计预测校正解释方法

    通过采用解释性人工智能技术和预训练的目标检测器，本文提出了一个名为 TbExplain 的框架，用于针对场景分类模型提供基于文本的解释。此外，TbExplain 还结合了一种新的方法，在初始预测不可靠时基于输入图像中的对象统计数据进行预测校正和文本解释。定性实验结果表明，基于文本的解释是相当可靠的。此外，在场景分类数据集上的定量和定性实验结果显示，TbExplain 相较于 ResNet 变种在分类准确性方面取得了改进。

    Jul, 2023

  • MICA：通过多级图像概念对齐实现可解释性皮肤病病变诊断

    通过使用黑盒深度学习方法，并结合可解释的人工智能和基于概念的方法，在医学图像分析领域提出一种多模态可解释疾病诊断框架，以实现模型可解释性、高性能和标签效率的平衡。

    Jan, 2024

  • 基于 CLEVR-XAI 的神经网络解释的地面真实性评估

    本文提出了一种基于 CLEVR 视觉问题回答任务的基准评估框架，在十种不同的 XAI 方法上进行比较和评估，结果得到了新的关于 XAI 方法质量和属性的深入认识。

    Mar, 2020

  • 利用显著性图向终端用户解释低质量心电图的应用研究

    本文介绍了一个旨在发展使用 AI 系统实时标记和解释医学图像低质量的系统，以及旨在了解使用 AI 系统利益相关者的解释需求和纵向用户研究设计，以研究 XAI 方法对端用户的影响的方法。

    Jul, 2022

  • 热图的基于部件的定量分析

    热力图在解释人工智能（XAI）中起到了重要的作用，这篇论文探讨了提高热力图信息性和可访问性的方法，并提出了开发自动化、可扩展和数值分析方法以使热力图 XAI 更客观、用户友好和成本效益的需求，同时也需要全面的评估指标来评估热力图质量。

    May, 2024