ICMLFeb, 2019

神经网络归因：因果视角

PDF
TL;DR提出了一种基于因果原理的神经网络归因方法，其中将神经网络架构视为结构因果模型，并提出了计算每个特征对输出的因果效应的方法，这种方法可以高效处理具有大量特征的数据，并在模拟和真实数据集上进行了实验验证。
neural networksattribution methodcausalitystructural causal modelalgorithm
发现论文，激发创造
  • 神经网络中因果归因学习：超越直接影响

    本文研究了神经网络中因果关系的估计及维护，提出了一种有效的方法来捕获和维护直接和间接的因果关系，并在高维数据中量化因果属性。通过实验验证此方法学习的因果属性能够接近于真实效果。

    Mar, 2023

  • 神经网络稳健可解释性的因果分析

    本文提出了一种基于因果分析的鲁棒性干预方法，以捕获神经网络内部的因果机制，从而审核模型行为，获得更加稳定和可信的解释，该方法适用于图像分类等任务。

    May, 2023

  • 神经网络健壮性的因果视角

    本论文提出了一种基于因果关系视角的神经网络输入鲁棒性分析方法，提出了深度因果操纵增强模型（CAMA），解决了单因素影响的问题，并采用了数据增强和测试时间微调方法以提升模型鲁棒性。相较于基于判别模型的深度学习神经网络，该模型表现出了更好的抵抗未知操纵攻击的能力，并成功实现了操纵信息与其他潜在因素的解耦合表示。

    May, 2020

  • 将图神经网络与结构因果模型相关联

    本文通过建立结构性因果模型和应用图神经网络模型，提出了一种新的因果推断方法，并证明了该方法可以用于因果效果辨识。

    Sep, 2021

  • 神经网络特征评估中的不一致问题探究

    近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

    Apr, 2024

  • 解释能否解释？模型最懂

    提出了一种通过神经网络模型本身来评估特征归因方法的框架，使用神经网络生成关键特征来评估各种归因方法的一致性和局限性。

    Mar, 2022

  • Graph 神经网络归因的扰动评估中的差异

    该研究通过重新训练网络来评估图神经网络归因方法，揭示了归因方法在不同数据集和网络上的可变性，并发现 GNNExplainer 与任意边重要性指定方法表现相似，研究得出重新训练评估不能作为广义基准，而应作为一种工具集来评估特定网络、数据集和稀疏度上的归因。

    Jan, 2024

  • 神经因果抽象

    通过聚类变量及其域的方法，发展了一种新的因果抽象方法，以更好地适应由 Pearl 的因果层次结构引发的个体因果分布，并进一步将这些结果与表示学习相结合，将这些结果更接近实际应用。

    Jan, 2024

  • 改进超出分布分类的因果理论和结构数据表示

    通过使用人为生成的因果知识来提高神经网络的数据表示，从而改进复杂分类任务中的自动生成模型的数据的分布外泛化性能，进而指向通过改进机器学习系统开发实践来提高机器学习系统的鲁棒性和安全性的努力中动力系统方法的实用性。

    Sep, 2023

  • 地球科学问题的神经网络归因方法：一个新的合成基准数据集

    研究了在地球科学的问题中应用神经网络时，可用的理论解释非常有限。因此，该研究提出了一种基于可加分离函数的框架，用于生成已知先验归因地面真实性的回归问题的归因基准数据集，并使用该数据集进行有关 XAI 方法的客观评价，以提高模型信任度和帮助发现新的科学。

    Mar, 2021