Jan, 2023

用因果抽象进行忠实的模型解释

PDF
TL;DR本文提出因果抽象理论作为高层次的 AI 模型解释的数学基础，使用因果抽象分析来确定可解释的高层次因果模型是否忠实反映了 AI 模型的行为和内部结构，同时我们还定义了近似因果抽象的概念以度量高层次因果模型对底层模型的抽象程度，并将 LIME、因果效应估计、因果中介效应分析、迭代零空间投影和基于电路的解释方法形式化为因果抽象分析的特例。
发现论文，激发创造
  • 近似因果抽象

    本文从科学模型、抽象、因果模型、近似抽象和概率因果模型等方面出发，对因果模型的抽象方法进行了详细分析，平衡了低层和高层因果模型之间出现的差异，并在此基础上进行了扩展。

    Jun, 2019

  • 线性结构因果模型的因果抽象学习

    采用线性因果模型的线性抽象函数，本研究首先确定了低级系数和抽象函数如何决定高级系数，以及高级模型如何约束低级变量的因果顺序；然后，通过观测数据学习了高级和低级因果模型及其抽象函数，并提出了一种名为 Abs-LiNGAM 的方法，利用所学高级模型和抽象函数所引导的约束，加快了更大规模低级模型的恢复过程，假设产生噪声项为非高斯分布；通过模拟实验验证了从数据中学习因果抽象的有效性以及我们的方法在改善因果发现的可扩展性方面的潜力。

    Jun, 2024

  • 神经因果抽象

    通过聚类变量及其域的方法，发展了一种新的因果抽象方法，以更好地适应由 Pearl 的因果层次结构引发的个体因果分布，并进一步将这些结果与表示学习相结合，将这些结果更接近实际应用。

    Jan, 2024

  • CALIME：基于因果关系的本地可解释模型无关解释

    本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

    Dec, 2022

  • 软干预引发的因果抽象

    本文提出了将因果抽象扩展到软介入，通过将非常量函数分配给变量，而不添加新的因果关系来增强因果抽象。具体而言，我们将 $ au$- 抽象从 Beckers 和 Halpern（2019）推广到软介入，并提出了进一步的软抽象定义来确保软介入之间存在唯一的映射，同时证明了我们的构造软抽象定义可保证干预映射具有特定和必要的显式形式。

    Nov, 2022

  • 因果模型的抽象化

    该论文研究了因果模型的抽象概念，提出了一系列逐步严格的模型定义，并表明微变量组合成宏变量的过程是强抽象概念的实例，其中所有的示例都属于 Rubenstein 等人考虑过的分类之一。

    Dec, 2018

  • 多个干预分布上联合学习一致的因果抽象

    本文提出了一个基于 Rischel（2020）提出的抽象形式化理论的因果抽象学习框架，并给出了一个可微分编程解决方案，以在人造数据和电动汽车电池制造领域中实现了关于多个分辨率级别的因果关系推理。

    Jan, 2023

  • 量化因果抽象学习的一致性和信息损失

    本文介绍了一系列干预措施，以帮助代理人在不同抽象水平之间进行权衡，探究其中信息的一致性和损失，并提出了用于评估和学习因果抽象的算法。最后，我们通过实证表明了不同措施和算法选择可能导致不同的抽象。

    May, 2023

  • 在可解释因果变量和分布式神经表示之间找到对齐

    本文介绍了一种名为分布式对齐搜索（DAS）的方法，它使用梯度下降来找出高层和低层模型之间的对齐，并允许单个神经元在非标准基中扮演多个不同的角色，从而发现了其他方法所错过的内在结构，为进行因果抽象分析消除了前期的限制。

    Mar, 2023

  • 概率模型的抽象化：逻辑视角

    本文提供了一个基于语义的框架，旨在分析高层次建模与其低层次对应模型间的一致性，以及针对概率模型的抽象方法和自动推导方法。

    Oct, 2018