本研究介绍了一种新颖的方法，通过学习和利用图像中的弱因果信号来自动分类医学图像。我们的框架由一个卷积神经网络主体和一个因果提取器模块组成，该模块提取特征图之间的因果关系，可以向模型提供关于图像中某个位置的特征出现的信息，当图像的另一个位置存在其他特征时。我们通过对前列腺 MRI 图像的公开数据集进行二元和多类分类实验证明了我们的方法在低数据场景下的有效性，并通过消融研究和定性评估使用类激活图来突出强烈影响网络决策过程的区域，验证了所提出的因果驱动模块的有效性。研究结果表明，特征之间的因果关系在提高模型识别相关信息和产生更可靠、可解释的预测方面起着关键作用，这使其成为医学图像分类任务中一个有希望的方法。

Sep, 2023

本文提出一个解释黑盒视觉分类器的因果推断扩展，即在实例特征选取的基础上选择对模型输出具有最大因果效应的特征子集，并使用相对熵距离量化这些特征子集的因果影响，该方法运用于多个视觉数据集中并证明了其高效性。

Apr, 2021

该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

Jan, 2021

我们提出了一种新方法，通过利用场景中的弱因果信号来模拟图像中一个特征对另一个特征的影响，实现自动分类医学图像。我们的方法由两个组成部分组成：卷积神经网络骨干和因果因子提取模块。后者根据其对图像场景的因果影响计算特征图的权重，以增强每个特征图。我们可以通过使用两个外部信号来修改因果模块的功能，从而获得我们方法的不同变体。我们在一个公共的前列腺 MRI 图像数据集上评估了我们的方法，用于前列腺癌诊断，包括定量实验、定性评估和消融研究。我们的结果表明，我们的方法改进了分类性能，并产生更可靠的预测，重点关注图像的相关部分。这在医学成像中尤为重要，准确可靠的分类对于有效的诊断和治疗规划至关重要。

Sep, 2023

本文讨论因果语言如何对医学影像机器学习中的主要挑战（数据稀缺性和数据不匹配）进行分析，为数据收集，注释程序和学习策略的决策提供更透明的解释。研究发现，在医学影像数据中，考虑因果关系对于机器学习的安全性、法规性和责任报告至关重要。

Dec, 2019

本文探讨了应用因果分析作为资源优化工具来开发医学成像机器学习应用的潜力。通过对合成数据集和糖尿病视网膜病变图像分析的实例研究，研究了数据集干预对图像分类模型输出的影响，以及需要在数据集中加入的数据量和类型以实现特定子任务的更好性能。

Jun, 2022

本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

Dec, 2022

本研究提出了一种统一的解释方法，结合了模型依赖和不依赖的解释，用于给定实例的自动决策，生成一组解释。通过无线胶囊内窥镜，验证了该方法的有效性。

Dec, 2022

探索使用对抗性样本阐述来理解医疗图像诊断中深度学习模型的决策机制。

Jul, 2022

该研究提出了一种新的可解释人工智能框架，利用反事实概率和关于因果结构的先验信息，以实现通过因果发现方法和黑盒分类模型来估计因果图并估计解释得分，从而更准确地解释模型的内部机制。通过人工数据的数值实验和信贷评级的实际数据应用，证明了该方法在因果图未知的情况下的有效性。

Feb, 2024