通过鲁棒优化为神经网络提供可证明稳健和可信的反事实解释

Sep, 2023

通过鲁棒优化为神经网络提供可证明稳健和可信的反事实解释

Provably Robust and Plausible Counterfactual Explanations for Neural Networks via Robust Optimisation

Junqi Jiang, Jianglin Lan, Francesco Leofante, Antonio Rago, Francesca Toni

TL;DR使用鲁棒优化技术，我们提出了 Provably RObust and PLAusible Counterfactual Explanations (PROPLACE) 方法来解决现有工作中的局限性，并通过比较实验证明其在三个评估方面的性能达到了最先进水平。

Abstract

counterfactual explanations (CEs) have received increasing interest as a major methodology for explaining neural network classifiers. Usually, CEs for an input-output pair are defined as data points with minimum

counterfactual explanations neural network classifiers robustness proplace evaluation aspects

发现论文，激发创造

机器学习中的鲁棒反事实解释：一项调查

对于机器学习模型的预测结果影响的人来说，反事实解释（CEs）被认为是提供理想算法解决方案的。然而，最近的工作揭示了与获取 CEs 的最新方法相关的严重问题的存在，因此需要采取技术来减轻风险。在这项调查中，我们回顾了快速发展的稳健 CEs 领域的研究，并对其所考虑的稳健性形式进行了深入分析。我们还讨论了现有解决方案及其限制，为未来的发展提供了坚实的基础。

Feb, 2024

针对数据转换下的反事实解释鲁棒性的验证训练

这篇论文介绍了 VeriTraCER，一种联合训练分类器和解释器的方法，明确考虑生成的反事实解释对小型模型偏移的稳健性，从而提供对反事实解释有效性的确定性保证。我们的实证评估表明，VeriTraCER 生成的反事实解释 (1) 对小型模型更新具有可验证的稳健性，(2) 在处理包括随机初始化、leave-one-out 和分布偏移等经验模型更新方面显示出与最先进方法竞争力的稳健性。

Mar, 2024

鲁棒的反事实解释的间隔抽象

为了解决因模型变动导致已有方法无效的问题，我们提出了一种用于参数化机器学习模型的新颖区间抽象技术，能够获得可靠的对抗模型变动的证明，进而提供具备可证明健壮性的反事实解释。通过基于混合整数线性规划的验证程序，我们进一步提出了两种算法，生成具备对抗模型变动健壮性的反事实解释，并通过对比实证研究表明，我们的算法在寻找具备健壮性的反事实解释方面具有很好的效果。

Apr, 2024

带有概率保证的神经网络的鲁棒的反事实解释

通过引入 “自然发生的模型变化” 这种数学抽象概念，提出了一种能度量不同模型下反事实解释的鲁棒性的度量标准，该标准称为 “稳定性”，并证明了当该度量标准足够高时，针对高斯函数的稳定性也足够高，能够有效解决不同模型之间的反事实解释一致性问题。

May, 2023

灵活稳健的反事实解释与最小满足扰动

通过 Counterfactual Explanations with Minimal Satisfiable Perturbations (CEMSP) 提供更健壮的解释，同时保留灵活性，以应对多个 Counterfactual explanations 可能导致的不稳定性问题。

Sep, 2023

神经网络对抗解释的稳健性形式化

该研究提出了 Delta-robustness 概念，基于区间神经网络的抽象框架，确定性地评估了神经网络中 CFX 的健壮性，并表明了它在提高可靠性方面的应用。

Aug, 2022

通过隐式最小化认识和随机不确定性来生成可解释的反事实解释

提出了一种简单快速的生成可解释反事实解释的方法，无需辅助模型，使用分类器的预测不确定性，在 IM1 得分方面比现有方法生成更可解释的 CEs。此外，该方法还允许估计 CE 的不确定性，这在医疗等安全关键应用中可能非常重要。

Mar, 2021

保持亲密关系，让反事实更近：在抽象设置中从最近的反事实解释中提高学习效果

本研究旨在评估计算合理性和心理合理性之间的差异，结果表明，心理学合理性与计算合理性之间存在巨大差异，特别是在处理详细的模型解释时，需要考虑人类行为，偏好和心理模型，以在 XAI 的设计阶段获得更好的用户体验。

May, 2022

基于用户反馈的反事实解释介绍 (UFCE)

本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

Feb, 2024

线性优化的反事实解释

探究了对复杂 AI 系统内部工作方式的理解中产生的反事实解释（CE）概念，并将 CE 的思想转化为线性优化，提出、激发、并分析了三种不同类型的 CE：强 CE、弱 CE 和相对 CE。通过检测和利用后一种情况下产生的优化问题的隐藏凸结构，证明计算相对 CE 的效率高。通过对 NETLIB 库进行广泛的数值实验研究，证实了获得相对 CE 可以在与解决原始线性优化问题相同数量级的时间内完成。

May, 2024