ICMLJul, 2022

基于树形集成的稳健反事实解释

PDF
TL;DR本文利用 RobX 策略生成树模型集合的鲁棒性反事实解释，并使用 Counterfactual Stability 度量方法评估这些解释的稳健性。结果表明，与现有的最先进的方法相比，我们的策略生成的反事实解释显著更加鲁棒和真实。
counterfactual explanationsmachine learningrobx strategytree-based ensemblescounterfactual stability
发现论文，激发创造
  • 基于 Tree 集成的灵活可优化反事实解释解释（FOCUS）

    为了解决机器学习模型的可解释性问题，本研究提出了一种基于梯度优化和概率模型逼近的反事实解释方法，可以适用于不可微模型如树模型，并且该方法得出的反事实案例要优于其他针对树模型的反事实方法。

    Nov, 2019

  • 树集成中的最优反事实解释

    本文提出了一种基于模型的搜索方法，利用混合整数规划技术生成了对树集的对抗性解释，并通过隔离森林模型针对低异常得分的合理解释进行优化。

    Jun, 2021

  • 生成强健的反事实解释

    本文提出了一种名为 CROCO 的新框架，用于生成具有鲁棒性的反事实解释，并有效地管理反事实输入更改带来的挑战，针对表格数据进行评估，证明了该方法的有效性。

    Apr, 2023

  • 通过多样性促进反事实鲁棒性

    通过报告多个反事实，可以提供一些有意义的鲁棒性保证，这篇论文提出了一种近似算法来选择最相关的解释，并在实验中证明了其在生成鲁棒性解释方面的改进。

    Dec, 2023

  • 基准测试可解释性人工智能的反事实算法：从白盒到黑盒

    该研究通过在三种不同类型的机器学习模型上进行基准评估来调查机器学习模型对反事实解释生成的影响，发现不同的机器学习模型对反事实解释生成没有影响，强烈建议进行定性分析来确保反事实解释的稳健分析和潜在偏差的识别。

    Mar, 2022

  • 神经网络对抗解释的稳健性形式化

    该研究提出了 Delta-robustness 概念，基于区间神经网络的抽象框架，确定性地评估了神经网络中 CFX 的健壮性，并表明了它在提高可靠性方面的应用。

    Aug, 2022

  • 机器学习中的鲁棒反事实解释：一项调查

    对于机器学习模型的预测结果影响的人来说，反事实解释（CEs）被认为是提供理想算法解决方案的。然而，最近的工作揭示了与获取 CEs 的最新方法相关的严重问题的存在，因此需要采取技术来减轻风险。在这项调查中，我们回顾了快速发展的稳健 CEs 领域的研究，并对其所考虑的稳健性形式进行了深入分析。我们还讨论了现有解决方案及其限制，为未来的发展提供了坚实的基础。

    Feb, 2024

  • 树状提升集成的预测解释

    本文介绍了如何生成树型集成学习（特别是梯度提升决策树）的本地解释，以便理解黑盒子模型的预测。作者提出了一种方法，可以对于正确预测的实例生成对抗解释，来研究模型的敏感性。与现有方法不同，这个方法可以在保持原有结构和准确性的情况下为 GBDT 提供解释。

    Jul, 2019

  • 评价反事实解释的鲁棒性

    本研究旨在正式和实证研究了解反事实解释的鲁棒性，以及在不同模型和不同类型扰动下的鲁棒性，并提出合理的反事实解释来改进鲁棒性和个体平等。

    Mar, 2021

  • 生成可信任的模型无关反事实解释的对抗随机森林

    利用对抗式随机森林（ARFs）的生成建模技术，本文以模型独立的方式高效生成可信的反事实解释，克服了现有方法的局限性，包括易于训练、计算高效、自然处理连续和分类数据以及方便集成额外的期望，如稀疏性。

    Apr, 2024