Sep, 2023

灵活稳健的反事实解释与最小满足扰动

PDF
TL;DR通过 Counterfactual Explanations with Minimal Satisfiable Perturbations (CEMSP) 提供更健壮的解释，同时保留灵活性，以应对多个 Counterfactual explanations 可能导致的不稳定性问题。
counterfactual explanationsinformational fairnessmodel reliabilitycemsprobust explanations
发现论文，激发创造
  • 基于用户反馈的反事实解释介绍 (UFCE)

    本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

    Feb, 2024

  • 一种可行的反事实探索框架：融合因果关系、稀疏性和密度

    通过对属性的逻辑因果关系保护，使用黑箱模型作为分类器并利用变分自动编码器生成可行的对抗性示例，本研究在不同基准数据集上实验，成功生成可行且稀疏的对抗性示例，满足所有预定义的因果约束。

    Apr, 2024

  • 机器学习中的鲁棒反事实解释：一项调查

    对于机器学习模型的预测结果影响的人来说，反事实解释（CEs）被认为是提供理想算法解决方案的。然而，最近的工作揭示了与获取 CEs 的最新方法相关的严重问题的存在，因此需要采取技术来减轻风险。在这项调查中，我们回顾了快速发展的稳健 CEs 领域的研究，并对其所考虑的稳健性形式进行了深入分析。我们还讨论了现有解决方案及其限制，为未来的发展提供了坚实的基础。

    Feb, 2024

  • 在大规模状态空间中学习可行的反事实解释

    我们提供了一个实验证明的深度网络学习过程，可以在此任务上取得强大的性能表现。我们考虑了几种问题形式，包括在未明确提供 “能力” 和行动影响的情况下的公式，因此存在信息挑战和计算挑战。我们的问题也可以看作是在一系列大型但确定性的马尔可夫决策过程（MDPs）中学习最优策略之一。

    Apr, 2024

  • 机器学习分类器反事实解释中的因果约束保持

    通过使用结构性因果模型，生成可行的对抗样本对于解释人工智能模型在医疗和金融等关键领域的决策是至关重要的。本论文提出了一种生成适用于实际应用中的可行对抗样本的方法，并且通过实验证明了其效果。

    Dec, 2019

  • 通过隐式最小化认识和随机不确定性来生成可解释的反事实解释

    提出了一种简单快速的生成可解释反事实解释的方法，无需辅助模型，使用分类器的预测不确定性，在 IM1 得分方面比现有方法生成更可解释的 CEs。此外，该方法还允许估计 CE 的不确定性，这在医疗等安全关键应用中可能非常重要。

    Mar, 2021

  • 反事实解释的迭代部分满足：利益与风险

    本文研究递归部分履行 (CF) 解释在迭代过程中的行为是否增加或减少了被试的总改进成本，我们提出了一个 IPF 的数学形式化，并理论和实验上证明了不同 CF 算法在 IPF 下表现出截然不同的行为，因此对 CF 算法的研究需要考虑这一因素。

    Mar, 2023

  • 针对表格数据的学习模型无关反事实解释

    本文提出了一种新的方法 ——C-CHVAE，该方法可以生成可实现的反事实解释，以更好地满足反事实解释的质量要求。

    Oct, 2019

  • 保持亲密关系，让反事实更近：在抽象设置中从最近的反事实解释中提高学习效果

    本研究旨在评估计算合理性和心理合理性之间的差异，结果表明，心理学合理性与计算合理性之间存在巨大差异，特别是在处理详细的模型解释时，需要考虑人类行为，偏好和心理模型，以在 XAI 的设计阶段获得更好的用户体验。

    May, 2022

  • 基于 PSO 的高维数据生成可操作的反事实

    基于粒子群优化的高效可行反事实生成方法被提出，该算法在实际数据集上通过一组行动性指标评估，结果优于现有技术。

    Sep, 2023