May, 2024

决策推理解码：基于反事实的模型在知识发现中的运用

PDF
TL;DR在医学成像中，辨识人工智能模型预测背后的理由对于评估其决策的可靠性至关重要。为了填补这一差距，我们提出了一种具备决策推理和特征识别能力的可解释模型，不仅能够检测有影响力的图像模式，还能揭示驱动模型最终预测的决定性特征。通过实施我们的方法，我们能够有效地识别和可视化数据驱动模型利用的类别特定特征，为深度学习模型的决策过程提供洞察，验证了我们的模型在医学预测任务中的效用和潜力，从而提高了人工智能在医疗保健领域的可靠性，并发现了在预后理解有限的疾病中的新知识。
medical imagingai modelexplanation methodsimage classificationsdecision-making processes
发现论文，激发创造
  • DiffExplainer: 通过反事实生成揭示黑匣子模型

    通过生成对抗图像，我们提出了一种方法来揭示影响黑盒模型的决策的关键特征，以提高医学图像分类中深度学习模型的可靠性。

    Jun, 2024

  • 平滑解释黑匣子 —— 反事实方法

    该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

    Jan, 2021

  • 利用图像翻译生成反事实来进行科学发现

    通过解释技术，提出了一种将解释转换为科学探索机制的框架，并证明结合黑盒预测器和生成模型可以用于生成无人类先验条件的假设，该技术用于糖尿病黄斑水肿的分类模型，成功连接模型的性能和人类理解。

    Jul, 2020

  • 假设干预下的临床结果预测 —— 用表示学习框架进行反事实推理

    本研究提出了一种新的表示学习框架 - 部分概念瓶颈，该框架将反事实解释作为风险模型的嵌入式属性，有助于研究人员和临床医生改进个性化护理，探索干预的假设性差异效应。

    May, 2022

  • CheXplaining in Style: 使用 StyleGAN 进行胸透的反事实解释

    探索使用对抗性样本阐述来理解医疗图像诊断中深度学习模型的决策机制。

    Jul, 2022

  • 超越已知现实：利用反事实解释进行医学研究

    该研究采用反事实解释方法探索医学研究的 “假设场景”，特别关注利用 MRI 特征诊断儿科后颅窝脑肿瘤，并探索反事实的潜在用途并评估其作为医疗研究中的替代方法的可行性和前景。

    Jul, 2023

  • 可解释的乳腺 X 线分类：基于案例推理和深度学习的方法

    介绍了一种新颖的可解释神经网络算法，并使用病例推理来辅助放射科医生进行乳腺摄影。 与其他方法相比，我们的模型以相同或更高的准确率检测临床特征（肿块边缘），提供了更详细的预测解释，并能更好地区分图像的分类相关部分。

    Jul, 2021

  • 利用反事实分析向医生解释机器学习决策

    本研究提出一种基于变分自编码器的反事实生成方法，以改进机器学习模型在医疗领域中的解释性问题，并生成更加逼真、相关的反事实情景。

    Jun, 2023

  • 医学影像诊断中可解释的深度学习方法：一项调查

    本文介绍了在医学影像诊断中应用深度学习的机会与挑战，重点讲述了可解释人工智能（XAI）在医学影像中的应用，并对解释方法、数据集和评估指标进行了综述和比较，最后探讨了深度学习在医学影像领域的未来研究方向。

    May, 2022

  • OCTET: 基于对象的反事实解释

    本研究提出了一种以物体为中心的框架来生成反事实解释，该方法通过将查询图像编码到潜在空间中，以便在物体级别上进行操作，并且可以适用于驾驶场景的反事实解释基准测试，并且设计并运行了用户研究以衡量反事实解释在理解决策模型方面的有用性。

    Nov, 2022