Sep, 2023

因果自解释的 D - 分离

PDF
TL;DR最小条件依赖性（MCD）准则是一个新颖的框架，用于揭示自然语言处理模型的因果理性，并通过最小化输入的未选择部分与目标标签在选择的理性候选项上的条件依赖关系来选择标签的所有原因。经验证，MCD 相比以往基于 MMI 的方法改善了 F1 得分高达 13.7%。
rationalizationnlp modelsmaximum conditional dependencecausal rationalekl-divergence
发现论文，激发创造
  • 通过逐个解释得出 (反事实的) 差异

    通过使用无监督生成模型进行反事实数据增强，降低 MMI 方法在挑选文本方面的性能，从而更好地捕捉感兴趣的信号，并提高基于解释性自然语言处理（NLP）的合理性模型的性能。

    Jan, 2022

  • 建立可信的解释：论因果合理化

    这篇论文提出了一种从因果推断角度出发的合理化模型，利用新提出的合理化结构因果模型计算了一系列的因果概率，从而得到了高效的合理化结果，实验表明该方法在真实世界的评论和医疗数据集上的性能优于最先进的方法。

    Jun, 2023

  • 使用 MDL 区分因果和混杂问题，我们不是你的真实父母

    本文根据 Kolmogorov 复杂性提取因果关系方法，利用最小描述长度原则模型比较非潜变量模型和潜变量模型，采用概率 PCA 方法寻找成因的潜在因素，在真实和合成的数据实验中表现良好，准确性与置信度相辅相成。

    Jan, 2019

  • 远程监督下非单调推理的理性化学习

    研究如何使用先前经过训练的语言模型、神经知识模型和相关任务的远程监督等，通过训练生成解释原因的生成模型来推断自然语言解释。然而，结果表明，由于神经语言模型的基本限制，该模型生成的解释仅限于具有普遍性的陈述，而在进行推理的同时预测更新或其类型和生成理由是更具挑战性的，这是未来的重要方向。

    Dec, 2020

  • 自抽取去缠结学习用于反事实预测

    基于信息论的自我蒸馏位解缠框架，通过互信息最小化提供理论上可靠的独立位解缠表示，以促进存在观察和未观察混杂变量的反事实推理。

    Jun, 2024

  • 提升自解释理性化的理据 - 输入一致性

    通过合作游戏，合理化赋予深度学习模型自我解释能力；本研究发现理性化容易出现的理性转移问题；为解决这个问题，提出一种新方法 DAR，通过辅助模块对齐选定理性和原始输入；实验证明 DAR 显著提高了解释质量，并在两个合成设置上进一步验证了其有效性。

    Dec, 2023

  • SCADI: 自主监督下的因果分解潜变量模型

    提出了一种新的自监督因果解缠模型 SCADI，通过结合屏蔽的结构因果模型（SCM）和伪标签生成器，实现模型在没有任何监督的情况下发现语义因素并学习它们之间的因果关系。

    Nov, 2023

  • 多变量反事实系统和因果图模型

    本文介绍了 Judea Pearl 在因果推断和统计学领域中的许多贡献，并阐述了 d 分离准则、do 演算和中介公式。文章还提出了一种关于潜在结果和事件树的早期因果模型，该模型饭后了 d 分离准则和 do 演算的简化，导致在有隐含变量的因果模型中，一个完整的识别算法的简单反事实的制定。

    Aug, 2020

  • 无锁多方面文本分类理性化

    本文提出了一种多阶段培训方法，将自我监督对比损失纳入其中，并证明可以帮助生成更多语义多样的理性化解释，从而改善了啤酒评论数据集的实验结果，并解决了互锁问题。

    May, 2022

  • 关于关系数据的概率模型中独立性的推理

    本文在不独立于同分布的数据实例上扩展了 d 分离理论，引入关系分离理论以从 relational models 推导条件独立性并提出了抽象的 ground graph 表达方式，从而实现了一种可靠、完整、高效的计算 d-separation 查询的方法。

    Feb, 2013