带有概率保证的神经网络的鲁棒的反事实解释

ICMLMay, 2023

带有概率保证的神经网络的鲁棒的反事实解释

Robust Counterfactual Explanations for Neural Networks With Probabilistic Guarantees

Faisal Hamman, Erfaun Noorani, Saumitra Mishra, Daniele Magazzeni, Sanghamitra Dutta

TL;DR通过引入 “自然发生的模型变化” 这种数学抽象概念，提出了一种能度量不同模型下反事实解释的鲁棒性的度量标准，该标准称为 “稳定性”，并证明了当该度量标准足够高时，针对高斯函数的稳定性也足够高，能够有效解决不同模型之间的反事实解释一致性问题。

Abstract

There is an emerging interest in generating robust counterfactual explanations that would remain valid if the model is updated or changed even slightly. Towards finding robust counterfactuals, existing literature often assumes that the original model $m$ and the new model $M$ are bounded in the parameter space, i.e., $\|\text{Params}(M){-}\text{Params}(m)\|{

robust counterfactual explanations naturally-occurring model change stability measure differentiable models neural networks

发现论文，激发创造

深度模型的一致对法推断

本篇论文研究了深度网络下，机器学习模型一致性与反事实样本的关系，在权重初始化和数据保留等初步训练条件发生微小变化时，提出了通过稳定邻近搜索算法来生成更一致解释的反事实样本的方法，并证明了该方法在多个基准数据集上具有有效性。

Oct, 2021

神经网络对抗解释的稳健性形式化

该研究提出了 Delta-robustness 概念，基于区间神经网络的抽象框架，确定性地评估了神经网络中 CFX 的健壮性，并表明了它在提高可靠性方面的应用。

Aug, 2022

生成强健的反事实解释

本文提出了一种名为 CROCO 的新框架，用于生成具有鲁棒性的反事实解释，并有效地管理反事实输入更改带来的挑战，针对表格数据进行评估，证明了该方法的有效性。

Apr, 2023

通过鲁棒优化为神经网络提供可证明稳健和可信的反事实解释

使用鲁棒优化技术，我们提出了 Provably RObust and PLAusible Counterfactual Explanations (PROPLACE) 方法来解决现有工作中的局限性，并通过比较实验证明其在三个评估方面的性能达到了最先进水平。

Sep, 2023

鲁棒的反事实解释的间隔抽象

为了解决因模型变动导致已有方法无效的问题，我们提出了一种用于参数化机器学习模型的新颖区间抽象技术，能够获得可靠的对抗模型变动的证明，进而提供具备可证明健壮性的反事实解释。通过基于混合整数线性规划的验证程序，我们进一步提出了两种算法，生成具备对抗模型变动健壮性的反事实解释，并通过对比实证研究表明，我们的算法在寻找具备健壮性的反事实解释方面具有很好的效果。

Apr, 2024

针对表格数据的学习模型无关反事实解释

本文提出了一种新的方法 ——C-CHVAE，该方法可以生成可实现的反事实解释，以更好地满足反事实解释的质量要求。

Oct, 2019

图神经网络的鲁棒性因果解释

提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

Jul, 2021

对策说明的随机优化

通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

Sep, 2022

使用多目标优化探索反事实解释中的可信度、变化强度和对抗能力之间的权衡

使用多目标优化模型，通过生成逆因模型生成可信的对抗实例，以提高深度学习模型的透明度，检测偏见和数据不当的形式。

May, 2022

机器学习分类器反事实解释中的因果约束保持

通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

Dec, 2019