Jun, 2022

模型无关解释的因果解释效应

PDF
TL;DR本研究旨在解决机器学习模型预测个体实例时特征贡献和整体特征重要性的估计问题，提出了一种基于假设理想实验的因果效应定义，并构建了基于因果效应的透明且有意义的本地和全局解释方法，其数据驱动估计和实验验证表明了该方法的有效性及实用性。
feature contributioncausal effectmodel explanationdata-driven estimationreal-world experiment
发现论文，激发创造
  • 将预测模型与因果效应估计相结合

    本文探讨了如何通过建立因果推断模型来估算特征对结果的因果影响，从而实现个性化决策制定。同时，本文还研究了当该模型满足特定条件时，它可以像最先进的因果效应估计方法一样准确地估计特征的因果效应，呈现出良好的健壮性和可解释性。

    Apr, 2023

  • 通过因果归因解释视觉模型

    本文提出了基于干预因果模型的解释方法来计算特征变化对输出的影响，从而得到新的样本。同时也发现在生成图像方面当前模型的局限性。

    Sep, 2019

  • 关于全局特征影响解释的鲁棒性

    我们研究了基于表格数据训练的预测模型的全局事后解释的健壮性。预测模型中预测特征的影响是模型调试和应用科学中的重要诊断工具，然而它们在面对数据和模型扰动时的脆弱性仍然是一个未解决的研究问题。我们引入了一些理论界限来评估偏依赖图和累积局部效应的健壮性。我们的实验结果使用合成和真实数据集量化了（误）解释机器学习预测全局情况下最佳和最差情况之间的差距。

    Jun, 2024

  • 基于实例的因果特征选择用于模型解释

    本文提出一个解释黑盒视觉分类器的因果推断扩展，即在实例特征选取的基础上选择对模型输出具有最大因果效应的特征子集，并使用相对熵距离量化这些特征子集的因果影响，该方法运用于多个视觉数据集中并证明了其高效性。

    Apr, 2021

  • CALIME：基于因果关系的本地可解释模型无关解释

    本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

    Dec, 2022

  • 基于外生性的因果关系判别

    本研究提出了一种新的因果方向确定框架，利用非参数方法估计边际和条件分布，并提出了一种基于 bootstrap 的方法来测试外生条件，以避免结构约束。验证表明，该方法可用于合成数据和实际数据上的因果方向确定。

    Apr, 2015

  • 用因果分析消除基于概念的解释偏见

    本文提出新的因果性先验图和用于消除混淆信息和噪声的两阶段回归技术，以解决模型可解释性工具中的潜在变量和概念完备性等问题，并在合成和真实数据集上进行了实验证明了该方法的成功。

    Jul, 2020

  • 黑匣子分类器生成因果解释

    通过利用生成式模型和因果影响信息论度量，我们开发了一种方法，用于生成关于黑盒分类器的因果事后解释，方法可以学习低维度的数据表示。我们的方法学习全局和局部的解释，适用于任何具有类概率和梯度的分类器，并且不需要标记的属性或因果结构的知识。

    Jun, 2020

  • 表征的二重奏及解释的恶化

    算法效果对人类感知中特征和标签之间的因果关系进行了表示，这种表示可能与人类先验信念相冲突。解释可以引导人类注意冲突的特征，从而避免注意其他相关特征，从而导致因果过度归因，并且可能对人类的信息处理产生不利影响。

    Feb, 2024

  • 基于因果关系的分类结果解释

    本研究提出了一种基于因果关系概念的分类器结果解释定义，并与以前提出的解释概念进行了比较和研究，同时在金融领域使用两个真实数据集进行了实验评估。

    Mar, 2020