针对预测多样性的反事实解释

Jun, 2020

On Counterfactual Explanations under Predictive Multiplicity

Martin Pawelczyk, Klaus Broelemann, Gjergji Kasneci

TL;DR本文研究了如何以更低的成本生成对于多个分类器表现相等情况下对于分类结果的对抗讲解，在理论和实证研究中，对于解释成本与解释鲁棒性进行了概念的阐述，发现基于数据支持的方法相较于仅仅基于稀疏方法更加鲁棒，但是它们在成本方面会有所提高。因此，缘由推荐为稀疏方法在多分类器表现差异大的情况下不宜一概而论。

Abstract

counterfactual explanations are usually obtained by identifying the smallest change made to an input to change a prediction made by a fixed model (hereafter called sparse methods). Recent work, however, has revit

counterfactual explanations predictive multiplicity data support methods costs of counterfactual explanations sparse methods

发现论文，激发创造

由一组解释器产生的反事实集合中选择解释的多标准方法

基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明，该方法能够生成具有吸引力的多种质量度量的可操作对策。

Mar, 2024

通过多样性促进反事实鲁棒性

通过报告多个反事实，可以提供一些有意义的鲁棒性保证，这篇论文提出了一种近似算法来选择最相关的解释，并在实验中证明了其在生成鲁棒性解释方面的改进。

Dec, 2023

通过数学优化在基于得分的分类中生成集体反事实解释

利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

Oct, 2023

多目标反事实解释

该研究提出了一种多目标反事实解释方法（MOC），将反事实搜索转化为多目标优化问题，通过对特征空间的多样性维护，返回一组不同权衡的反事实，并在实际案例中展示了 MOC 的有用性和与现有方法的对比。

Apr, 2020

决策、反事实解释与战略行为

本文旨在在战略环境下寻找最优的政策和对策解释，包括 NP 难的问题，非降性和子模性，用标准贪心算法获得近似保证。最后，我们表明通过将拟阵约束加入问题的制定中，我们可以提高对策解释的最优集合的多样性，并激励整个人口谱上的个体自我改进。

Feb, 2020

针对反事实解释的条件生成模型

该论文提出了一种生成利用条件生成模型来生成稀疏的、在分布中反事实模型解释的通用框架，可适用于不同模态的数据，并说明了该方法在图像、时间序列和混合类型表格数据上的有效性。

Jan, 2021

贝叶斯分层模型用于反事实估计

本文提出一个新的概率模型，用于计算模型的多个对抗性解释。该模型可以共享群体分组的信息，并保留领域特定的约束条件，同时评估不确定性，并得出合理、稀疏、多样和可行的结果。

Jan, 2023

明智选择数据：用于语义逆因果框架的方案

本文提出一个利用知识图谱提供反事实解释的框架，并给出了一种计算该解释的算法，并 quantitatively 评估了该框架与用户研究。

May, 2023

符号化方法用于反事实解释

本文提出了一种基于符号化方法的反事实解释方法，该方法可以根据分类器预测中的哪些特征需要改变来为模型提供反事实解释。该方法利用已有的知识库修复解决方案生成最小纠正子集（MCS），并且在贝叶斯分类器上的初步实验研究显示了其巨大潜力。

Jun, 2022

生成多元时间序列稀疏反事实解释

本文介绍了一种基于生成对抗网络（GAN）架构的 SPARCE 方法，用于多变量时间序列的稀疏反事实解释，并在真实世界的人体动作数据集以及一个时间序列的解释性基准上得到了验证。

Jun, 2022