CVPRApr, 2023

反事实推论对读取胸部 X 光片的影响

PDF
TL;DR本研究评估反事实解释对于胸部 X 光解读的影响，结果表明使用反事实解释能够增加放射科医生对于正确诊断的信心，尤其在 Mass 和 Atelectasis 等特定预测任务中。
counterfactual explanationschest x-raysradiologistsattribution methodsfalse positives
发现论文，激发创造
  • CheXplaining in Style: 使用 StyleGAN 进行胸透的反事实解释

    探索使用对抗性样本阐述来理解医疗图像诊断中深度学习模型的决策机制。

    Jul, 2022

  • 超越已知现实：利用反事实解释进行医学研究

    该研究采用反事实解释方法探索医学研究的 “假设场景”，特别关注利用 MRI 特征诊断儿科后颅窝脑肿瘤，并探索反事实的潜在用途并评估其作为医疗研究中的替代方法的可行性和前景。

    Jul, 2023

  • 平滑解释黑匣子 —— 反事实方法

    该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

    Jan, 2021

  • 询问以了解更多：为虚假声明生成反事实解释

    本文提出了采用反事实解释的方法，通过三步：提问，寻找矛盾，合理推理，来让读者理解为什么一个特定新闻被认定为虚假，通过在 FEVER 数据集的实验评估表明，这种方法相比于现有成果更具有帮助性。

    Jun, 2022

  • 理解反事实解释对人工智能辅助临床决策中信任与依赖的影响

    通过使用显著特征解释和假设性解释来更加分析性地对待人工智能建议，可以降低对人工智能的过度依赖，提高医疗决策过程中的性能和一致性，尤其是在确保人工智能提供正确输出的情况下。

    Aug, 2023

  • 利用反事实分析向医生解释机器学习决策

    本研究提出一种基于变分自编码器的反事实生成方法，以改进机器学习模型在医疗领域中的解释性问题，并生成更加逼真、相关的反事实情景。

    Jun, 2023

  • 使用反事实解释模型置信度提升模型理解和信任

    本文阐述了反事实解释信心分数是如何帮助用户更好地理解和更好地信任 AI 模型的预测，在人机交互系统中展示信心分数可以帮助建立人类和 AI 系统之间的信任，提出了两种用于理解模型信心的方法：(1) 基于反事实例；和 (2) 基于反事实空间的可视化。

    Jun, 2022

  • 利用反事实分析解释模型确信度

    本文探究面向人工智能交互中置信度得分的反事实解释如何增强人对机器学习模型预测的理解和信任，并提出了两种理解置信度得分的方法，即基于反事实案例和基于反事实空间可视化，这两种方法可以相互补充，但也存在异同，因此需要进一步研究和设计更加精准有效的解释方法和应用场景。

    Mar, 2023

  • AI 系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

    本文探讨了 AI 系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供 AI 系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出 AI 系统只能捕捉到相关关系而非因果关系可以减轻其影响。

    May, 2022

  • 利用文本概念解释胸部 X 光病理模型

    本文提出了利用已有的视觉 - 语言模型 (Visual-Language Model, VLM) 联合嵌入空间的概念对立解释来解释黑盒分类器结果的方法，无需注释的数据集。通过利用胸部放射学报告中的文本概念和基于胸部放射学的预训练 VLM，解释了三种常见的心胸病理，证明了我们的方法生成的解释在语义上是有意义的，忠实于潜在的病理。

    Jun, 2024