Jul, 2024

未发现的因果关系与模糊的影响：对解读神经网络构成挑战的反事实论证

HTML
PDF
TL;DR在解释性研究中，我们常常将反事实因果理论视为理所当然。尽管反事实呈现了比相关性方法更加准确的证据，但它仍然存在一些偏见，导致我们无法全面地捕捉到产生相同结果的多个独立充分原因和神经网络中的反事实依赖不具备传递性。我们讨论了这些挑战对解释性研究的影响，并提出了未来工作的具体建议。
发现论文，激发创造
  • 机器学习分类器反事实解释中的因果约束保持

    通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

    Dec, 2019

  • CausaLM：通过反事实语言模型解释因果模型

    文章提出了CausaLM框架，基于fine-tuning的deep contextualized embedding models通过辅助对抗性训练任务，学习给定概念的反事实表示，用于估计其对模型性能的真实因果效应。我们的方法的副产品是一种语言表示模型，可以减轻数据中固有的不良偏差。

    May, 2020

  • 超越琐碎的反事实解释：拥有多样有价值的解释

    该论文提出了DiVE方法，通过在分散的潜在空间中学习扰动并使用多样性强制损失进行约束，从而揭示与模型预测相关的多个有价值的解释，以防止模型产生微不足道的解释。实验证明，与之前的最新方法相比，我们的模型可以提高高质量有价值解释的成功率。

    Mar, 2021

  • 可解释性特征：用户如何理解XAI中分类型和连续特征的因果和反事实解释

    通过对127名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单AI系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • 神经网络稳健可解释性的因果分析

    本文提出了一种基于因果分析的鲁棒性干预方法，以捕获神经网络内部的因果机制，从而审核模型行为，获得更加稳定和可信的解释，该方法适用于图像分类等任务。

    May, 2023

  • 通过分位数回归推进相对论推断

    该论文旨在通过使用神经网络将反事实推理重新构建为扩展的分位数回归问题，依据已学习的定性因果结构和观测数据进行可靠的反事实推理，而不需要给定因果模型甚至直接估计条件分布，并且该方法比现有方法在统计上更有效，同时也有可能将所估计的反事实结果的泛化能力扩展到看不见的数据，并提供泛化误差的上限界限。实验结果在多个数据集上强烈支持我们的理论 claims。

    Jun, 2023

  • 对可逆潜在因果模型领域反事实的描述

    本文针对特定类型因果查询-领域反事实进行研究，提出了一种基于不同领域、环境生成数据集合的领域特定可逆潜在因果模型，并证明通过两个可逆函数可以将任何模型转化为等价模型，同时表明只允许干预最后$k$个因果变量的算法可以提高反事实估计的模型准确性。

    Jun, 2023

  • 利用反事实推理的因果生成解释器：以Morpho-MNIST数据集为案例研究

    提出使用因果生成学习作为解释图像分类器的可解释工具，利用生成对事实推理方法研究视觉特征和因果因素对分类器决策的影响，提供了针对可解释因果数据集的对抗解释方法，通过与OmnixAI开源工具进行对比，发现我们的方法提供的对事实解释更可解释，适用于生成高度可解释的对事实解释。

    Jan, 2024

  • 因果关系：大型语言模型能真正理解因果关系吗？

    提出了一种新颖的架构称为“具有反事实分析的上下文感知推理增强框架”，通过将显式和隐式因果推理相结合，利用ConceptNet和反事实语句来提高因果推理和可解释性，进一步提供对因果关系的深度理解和促进可解释性。

    Feb, 2024

  • 寻找合适的中介者：因果可解释性的历史、调查与理论基础

    本研究针对当前因果可解释性领域中缺乏统一理论基础的问题，提出将因果中介分析作为研究框架。研究中明确了不同类型中介者的优缺点，提出发现新型中介者的必要性，并倡导更标准化的评估方法，以便于不同中介者在特定应用中的比较和选择，进而推动领域的进展。

    Aug, 2024