基于消融的反事实

Jun, 2024

Ablation Based Counterfactuals

Zheng Dai, David K Gifford

TL;DR通过模型削弱而非模型重新训练的方式，引入了基于消融的反事实分析（ABC）方法来分析扩散模型如何依赖其训练数据。使用扩散模型集合构建模型，并通过完全反事实景观计数来研究训练数据的属性限制，并展示了无法归因的样本的存在。

Abstract

diffusion models are a class of generative models that generate high-quality samples, but at present it is difficult to characterize how they depend upon their training data. This difficulty raises scientific and regulatory questions, and is a consequence of the complexity of

diffusion models counterfactual analysis model ablation causal influence training data attribution

发现论文，激发创造

反事实解释的扩散模型

本论文提出 DiME 方法，在使用最近传播模型的同时利用引导生成扩散过程，充分利用目标分类器的梯度生成输入实例的反事实解释，进一步通过提出一个新的度量标准 —— 相关差异，分析了目前评估虚假相关性的方法，并进行实验验证，结果表明该算法在 CelebA 上优于之前的最新研究成果。

Mar, 2022

基于快速扩散的去除和生成捷径的对抗样本

通过快速扩散基于反事实的图像生成和基于修补的修改方法，我们检测和量化潜在的捷径特征对模型预测的影响。我们通过在两个大型胸部 X 射线数据集、一个皮肤病损数据集和 CelebA 上确认，验证了我们的方法在推理速度显著提升、图像质量与最先进技术可比的同时的有效性。

Dec, 2023

潜在扩散对抗解释

基于潜在扩散模型，引入了潜在扩散反事实解释 (LDCE)，用以快速生成反事实实例，并专注于数据的重要、语义部分；通过新颖的共识引导机制过滤出与扩散模型的隐式分类器不一致的嘈杂、对抗性梯度，展示了 LDCE 在各种学习范式下的多样性和黑盒模型行为的理解。

Oct, 2023

通过因果归因解释视觉模型

本文提出了基于干预因果模型的解释方法来计算特征变化对输出的影响，从而得到新的样本。同时也发现在生成图像方面当前模型的局限性。

Sep, 2019

针对反事实解释的条件生成模型

该论文提出了一种生成利用条件生成模型来生成稀疏的、在分布中反事实模型解释的通用框架，可适用于不同模态的数据，并说明了该方法在图像、时间序列和混合类型表格数据上的有效性。

Jan, 2021

扩散因果模型用于反事实估计

提出 Diff-SCM 来解决如何从观察到的成像数据中估计反事实效果的问题，使用深度结构因果模型和生成式能量模型相结合的方法进行推理，并且在 MNIST 数据和 ImageNet 数据上证明了其优越性。

Feb, 2022

通过结构扩散导航有结构的假设空间：生成反事实对照

通过扩散模型生成结构化数据的反事实解释，以黑盒神经网络模型为基础，并且达到与现有最先进技术相比较高的可信度、接近性和多样性。

Dec, 2023

使用生成模型的同胚反事实

本文提出了一种简单但有效的方法来生成可解释神经网络分类决策的反事实案例，并探索了利用生成模型构建坐标系统的方法。文章分析了生成过程并利用定量和定性措施验证了生成的反事实案例的质量。

Jun, 2022

对抗分布平衡与反事实推理

提出了适用于反事实推理的对抗分布平衡法（ADBCR），通过直接使用反事实估计结果来消除假性因果关系，证明了其在三个基准数据集上优于现有方法，并证明如果在训练过程中包含未标记的验证数据，可以进一步改进 ADBCR 的性能。

Nov, 2023

针对表格数据的学习模型无关反事实解释

本文提出了一种新的方法 ——C-CHVAE，该方法可以生成可实现的反事实解释，以更好地满足反事实解释的质量要求。

Oct, 2019