通过生成对抗图像，我们提出了一种方法来揭示影响黑盒模型的决策的关键特征，以提高医学图像分类中深度学习模型的可靠性。

Jun, 2024

本论文提出 DiME 方法，在使用最近传播模型的同时利用引导生成扩散过程，充分利用目标分类器的梯度生成输入实例的反事实解释，进一步通过提出一个新的度量标准 —— 相关差异，分析了目前评估虚假相关性的方法，并进行实验验证，结果表明该算法在 CelebA 上优于之前的最新研究成果。

Mar, 2022

本研究提出了一种基于生成模型的深度神经网络内省技术，使图像编辑更容易进行模型解释，该技术通过干预操作获取答案来回答反事实查询问题。在 MNIST 和 CelebA 数据集上使用所提出的内省方法揭示了给定分类器的有趣特性。

Jul, 2019

在医学成像中，辨识人工智能模型预测背后的理由对于评估其决策的可靠性至关重要。为了填补这一差距，我们提出了一种具备决策推理和特征识别能力的可解释模型，不仅能够检测有影响力的图像模式，还能揭示驱动模型最终预测的决定性特征。通过实施我们的方法，我们能够有效地识别和可视化数据驱动模型利用的类别特定特征，为深度学习模型的决策过程提供洞察，验证了我们的模型在医学预测任务中的效用和潜力，从而提高了人工智能在医疗保健领域的可靠性，并发现了在预后理解有限的疾病中的新知识。

May, 2024

该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

Jan, 2021

在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

Jun, 2022

通过生成图像的方式来优化分类器结果、分析图像分类器的行为和决策、检测系统错误并可视化神经元，验证现有观察结果并发现新的错误模式或有害的虚假特征。

Nov, 2023

本文提出了一种基于深度神经网络的自然语言解释方法用于图像的分类，其中通过缺失证据来产生反事实解释，并提出了自动度量以分析所生成的反事实解释。

Jun, 2018

该论文提出了一种新的框架，通过语言引导生成对抗图片来加强分类模型。通过使用对抗图片数据集来测试模型的弱点，并将对抗图片作为增加的数据集来微调和加固分类模型，研究揭示了使用小规模对抗图片进行微调可以有效增强模型的性能。

Jun, 2024

该论文提出了 DiVE 方法，通过在分散的潜在空间中学习扰动并使用多样性强制损失进行约束，从而揭示与模型预测相关的多个有价值的解释，以防止模型产生微不足道的解释。实验证明，与之前的最新方法相比，我们的模型可以提高高质量有价值解释的成功率。

Mar, 2021