通过使用一种新的网络模型，即条件可逆神经网络，我们可以对特定条件下的自然图像生成进行有效的前处理，以便于训练出不会出现模式崩溃并生成多样化图像的模型。同时，我们利用双向 cINN 架构探索和操作潜在空间的新特性，例如通过直观方式改变图像风格。

Jul, 2019

该研究提出了一种利用结构原因模型和 ALI 生成对抗学习算法，生成能满足图像属性之间因果关系约束的反事实例，用于解释和评估神经网络模型的偏差，并使用反事实正则化方法消除分类器训练数据中对皮肤和头发颜色等多维属性的偏见。

Sep, 2020

本研究提出了一种基于生成模型的深度神经网络内省技术，使图像编辑更容易进行模型解释，该技术通过干预操作获取答案来回答反事实查询问题。在 MNIST 和 CelebA 数据集上使用所提出的内省方法揭示了给定分类器的有趣特性。

Jul, 2019

通过解释性人工智能和反事实解释的框架，本研究开发了一种新型反事实修复方法（COIN），通过生成模型将分类标签从异常翻转到正常，实现对医学图像中病变的精确分割，不依赖于现有的分割掩模，证明其在肾脏肿瘤的语义分割方面优于现有的方法，并为稀缺标注数据的深度学习应用提供了更多可能。

Apr, 2024

提出了一个统一框架，利用图像到图像转换生成对抗网络 (GANs) 生成对抗性样本，以增强可解释性，并扩充数据集以提高对抗性鲁棒性。该框架通过将分类器和辨别器结合成一个单一模型，将真实图像归类为相应的类别，并将生成的图像标记为 “伪造”，以实现这一目标。在具体裂缝的语义分割任务中，评估了方法的有效性，并在水果缺陷检测问题上评估了模型对投影梯度下降 (PGD) 攻击的鲁棒性。我们生成的显著性地图具有很高的描述性，尽管仅在分类标签上进行训练，但与传统分割模型相比，其竞争性 IoU 值表现。此外，该模型对抗性攻击的鲁棒性得到了改善，并展示了辨别器的 “伪造” 值作为预测的不确定性度量。

Oct, 2023

介绍了一种新的结构，称为条件可逆神经网络（cINN），并将其用于解决自然图像的多样化图像到图像的转化任务。cINN 结合了纯生成 INN 模型和一个无限制的前馈网络，有效地将调节图像预处理为最大信息特征。通过最大似然优化，稳定地联合优化 cINN 的所有参数。利用双向 cINN 结构，进一步探索和操作潜在空间的新兴属性，例如以直观的方式更改图像风格。

May, 2021

在不需要重新训练或调整的情况下，使用预训练的生成模型，介绍了生成因果关系和可解释的反事实解释方法，以提供对黑匣子算法的透明性，并获得对面部属性分类器的对比和因果支持和必要分数，从而展示不同属性如何影响分类器输出。

Jun, 2022

本文提出了一种基于深度神经网络的自然语言解释方法用于图像的分类，其中通过缺失证据来产生反事实解释，并提出了自动度量以分析所生成的反事实解释。

Jun, 2018

提出了 VCNet-Variational Counter Net，这是一个用于回归或分类的模型架构，它能够同时生成预测和接近预测类分布的因果解释，该模型在表格数据集上的实证评估结果表明，其结果与最先进的方法相当竞争。

Dec, 2022

通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

Dec, 2019