利用因果推断解释深度学习模型

Nov, 2018

Explaining Deep Learning Models using Causal Inference

Tanmayee Narendra, Anush Sankaran, Deepak Vijaykeerthy, Senthil Mani

TL;DR本文利用因果推断的思想描述了一种普遍的 CNN 模型推理框架，并通过形成结构性因果模型的方式对 CNN 的一个特定方面进行了抽象化，提出了量化评估卷积层滤波器的因果重要性的方法。我们的方法以 LeNet5、VGG19 和 ResNet32 等流行的 CNN 架构为例进行了说明。

Abstract

Although deep learning models have been successfully applied to a variety of tasks, due to the millions of parameters, they are becoming increasingly opaque and complex. In order to establish trust for their widespread commercial use, it is important to formalize a principled framework

deep learning causal inference cnn structural causal model filter ranking

发现论文，激发创造

可控反事实推断的深度结构因果模型

利用深度学习组件建立结构因果模型 (SCMs) 的一个通用框架，采用正则化流和变分推断实现外生噪声变量的易处理推断，并验证其在 MNIST 和医学图像数据上的有效性，提出了 SCMs 可以回答所有 Pearl 因果逻辑的逆因果推断问题的思路。

Jun, 2020

深度因果学习：表示、发现和推断

本文综合评述了深度学习在因果学习中的贡献，解决了传统因果学习方法中的许多问题，并指出深度因果学习在因果科学的理论拓展和应用扩展中的重要性，并成为通用人工智能中不可或缺的一部分。

Nov, 2022

典型计算机视觉任务中的因果推理

基于深度学习的方法已经颠覆了人工智能领域。本文综述了在典型的计算机视觉和视觉语言任务中，深度学习的基础、稳定性以及存在的问题，并总结了因果理论对解决这些问题的优势以及构建因果模型的方法。未来的规划包括促进因果理论的发展并在其他复杂场景和系统中应用。

Jul, 2023

因果深度学习

提出了一种新的因果关系框架 —— 因果深度学习，这个框架包括三个维度：结构维度、参数维度和时间维度。该框架可以在利用不完整的因果知识的同时，结合多种因果深度学习方法，解决各种实际问题，从而实现真正的实际影响。同时，这个框架还可以让研究人员系统地对现有工作进行比较，并找出有前途的研究领域。

Mar, 2023

通过深度生成模型学习结构因果模型：方法，保证和挑战

本文全面综述了深度结构因果模型 (DSCMs) 的特点以及其在使用观测数据回答反事实查询方面的能力，分析了其关于深度学习组件和结构因果模型的假设、保证和应用，深入理解其在不同反事实查询情境下的能力和限制，同时强调了深度结构因果建模领域面临的挑战和未解之问，为研究者确定未来工作方向和实践者选择最合适的方法提供了概述。

May, 2024

将图神经网络与结构因果模型相关联

本文通过建立结构性因果模型和应用图神经网络模型，提出了一种新的因果推断方法，并证明了该方法可以用于因果效果辨识。

Sep, 2021

学习潜在结构因果模型

本文提出了一种基于贝叶斯推理的方法，在低级别数据的情况下学习维度高、SCM 结构和参数未知的高级因果变量，从而实现对潜在 SCM 的推断和图像生成。

Oct, 2022

通过自编码激活实现深度神经网络的因果学习和解释

通过构建深度神经网络中的因果模型并使用自动编码器提取关键概念作为变量，我们开发了一种解释神经网络输出预测的方法，并使用该因果模型识别和可视化对最终分类具有显着因果影响的特征。

Feb, 2018

高维因果结构的深度学习

本文提出了一种深度神经体系结构，结合经验数据和先前的因果知识，从而学习变量之间的因果关系，并通过卷积和图神经网络在因果风险框架内提供了一种灵活和可扩展的方法，Empirical results include linear and nonlinear simulations (where the underlying causal structures are known and can be directly compared against)，特别的，在生物医学领域的实验验证结果表明，深度学习方法能够应用于学习包含数千个变量的大规模问题中的因果网络

Dec, 2022

高维因果推断的深层因果生成模型的模块化学习

提出了名为 Modular-DCM 的算法，利用预训练模型可以可靠地对高维数据进行因果查询，并从可识别的干预和反事实分布中采样。

Jan, 2024