基于实例的因果特征选择用于模型解释

CVPRApr, 2021

基于实例的因果特征选择用于模型解释

Instance-wise Causal Feature Selection for Model Interpretation

Pranoy Panda, Sai Srinivas Kancheti, Vineeth N Balasubramanian

TL;DR本文提出一个解释黑盒视觉分类器的因果推断扩展，即在实例特征选取的基础上选择对模型输出具有最大因果效应的特征子集，并使用相对熵距离量化这些特征子集的因果影响，该方法运用于多个视觉数据集中并证明了其高效性。

Abstract

We formulate a causal extension to the recently introduced paradigm of instance-wise feature selection to explain black-box visual classifiers. Our method selects a subset of input features that has the greatest

causal extension feature selection black-box classifier causal effect visual datasets

发现论文，激发创造

学习解释：模型解释的信息论视角

我们引入了实例级别特征选择作为模型解释的一种方法，基于学习一个函数来提取最具信息价值的特征集合，利用变分逼近互信息，最大化选择特征和响应变量之间的互信息，我们在各种合成和真实数据集上展示了方法的有效性，并使用定量度量和人类评估进行了验证。

Feb, 2018

测量因果控制的因果熵和信息增益

该篇论文提出了蕴含系统因果结构的信息论量，用于评估给定的目标变量的因果重要性，并展示了因果信息增益在特征选择中的优越性，从而为涉及因果关系的领域的可解释性方法的发展铺平了道路。

Sep, 2023

通过传输熵进行因果特征选择

我们提出了一种新颖的方法，结合了特征选择和因果发现，专注于时间序列，通过使用前向和后向特征选择程序，并利用传递熵来估计从特征到目标的因果信息流，实现了特征的选择不仅仅基于模型性能，还捕捉到因果信息流。

Oct, 2023

公平因果特征选择

提出了一种公平的因果特征选择算法，使用类特定的互信息评估每个类属性状态所包含的因果信息，以公正地确定每个类状态的因果特征。

Jun, 2023

正交搜索法进行因果特征选择

提出一种基于反偏倚机器学习的一对多特征选择方法，可用于纯观察性数据，同时提供理论保证，包括部分非线性关系和循环数据的情况，并证明与目前的方法相比有显著改进。

Jul, 2020

模型无关解释的因果解释效应

本研究旨在解决机器学习模型预测个体实例时特征贡献和整体特征重要性的估计问题，提出了一种基于假设理想实验的因果效应定义，并构建了基于因果效应的透明且有意义的本地和全局解释方法，其数据驱动估计和实验验证表明了该方法的有效性及实用性。

Jun, 2022

黑匣子分类器生成因果解释

通过利用生成式模型和因果影响信息论度量，我们开发了一种方法，用于生成关于黑盒分类器的因果事后解释，方法可以学习低维度的数据表示。我们的方法学习全局和局部的解释，适用于任何具有类概率和梯度的分类器，并且不需要标记的属性或因果结构的知识。

Jun, 2020

算法公平性的因果特征选择

本文介绍了一种使用因果干预公平性范例，通过在数据管理的集成组件中考虑公平性来识别特征以提高预测质量而不添加偏差的方法，提出了一种使用条件独立性检测的方法来确定确保干预公平的特征子集，并通过现实世界的数据集进行了详细的实证评估，证明了方法的有效性和效率。

Jun, 2020

通过因果归因解释视觉模型

本文提出了基于干预因果模型的解释方法来计算特征变化对输出的影响，从而得到新的样本。同时也发现在生成图像方面当前模型的局限性。

Sep, 2019

通过因果视角对虚假相关性降低信息论偏差

通过因果关系解释的虚假相关的条件互信息，我们提出了一种信息熵偏差测量技术，可以有效地识别基于特征的算法偏差，并设计了一种新颖的基于偏差正则化损失的去偏差框架和一种基于随机标签噪声的简单而有效的非监督去偏差技术。

Jan, 2022