Mar, 2024

即便是从仅有的条件中获得的：以反事实为指导的最佳半事实性解释能否找到？

PDF
TL;DR通过在 7 个数据集上使用 5 个关键指标对 8 种半事实方法进行全面测试，确定是否需要使用反事实指导来找到最佳的半事实解释，结果表明不需要，而是计算决策空间的其他方面能够得到更好的半事实可解释性。
counterfactualssemi-factualsexplanationsxaidecision space
发现论文，激发创造
  • 半真实 XAI 的先前工作、需求和基准

    该论文调查了历史和最近在可解释人工智能 (XAI) 和半事实 (semi-factuals) 领域的突破，定义了半事实 XAI 的主要要求，并报告了历史算法的基准测试（以及一种新颖的，朴素的方法），为未来的算法发展提供了坚实的基础。

    Jan, 2023

  • 优化积极结果的 “即使……” 半事实解释的效用

    在自动化系统的正面结果中，我们聚焦于使用可解释的人工智能（XAI）将正面结果优化，通过引入新增概念的半事实解释方法，我们的算法在最大化收益方面表现更好，同时用户研究支持我们的主要假设。

    Oct, 2023

  • 生成深度学习的可信反事实和半事实解释

    研究提出一种新方法 PlausIble Exceptionality-based Contrastive Explanations (PIECE)，用于生成黑匣子 CNN 分类器的可信反事实和半事实，称其比文献中的其他方法生成最可信的反事实和半事实。

    Sep, 2020

  • 即使解释：正式基础、优先级和复杂性

    对于可解释人工智能的半事实即使思考的局部事后解释性查询进行了研究，比较了不同类别的模型的计算复杂度，发现线性模型和基于树的模型比神经网络更具可解释性。然后引入了一种基于偏好的框架，使用户能够根据其偏好进行个性化解释，无论是在半事实还是对事实进行优化，增强了可解释性和用户中心性。最后，探索了所提出的基于偏好的框架中几个可解释性问题的复杂性，并提供了多项式情况下的算法。

    Jan, 2024

  • 如果我们有更好的反事实解释：修正反事实 XAI 技术评估中的五个主要不足

    该论文通过调查 100 种不同的反事实解释方法，评估这些方法在心理和计算上的不足，并列出了五个关键的评估缺陷，并提出了标准化基准评估的路线图来解决这些影响该领域科学进展的问题。

    Feb, 2021

  • 好的反事实和它们的来源：基于案例技术生成可解释人工智能的反事实

    本文研究使用反事实解释作为可解释的人工智能 (XAI) 问题的一种解决方案，并提出一种基于案例的方法来生成反事实，以提高其解释能力和覆盖范围。

    May, 2020

  • 反事实解释 —— 无关因素对 AI 系统解释的相关性

    提出一种新型的 AI 决策解释方法，即 Alterfactual Explanations，与传统的 Counterfactual Thinking 方法相比，该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景，大幅提升了用户理解 AI 决策过程的效果。

    Jul, 2022

  • 揭示反事实解释在就业能力的潜力

    本研究提出反事实解释在复杂机器学习算法下的应用，以数据实例展示其在雇用相关问题中提高决策支持、遵守法律要求、引导受控变更和分析新颖洞见的作用。

    May, 2023

  • 抽象论证中的对立假设和半事实解释：形式基础、复杂性与计算

    该论文探讨了可解释人工智能和形式论证在抽象论证框架中的反事实和半事实推理，研究了其计算复杂性，并提供了通过 ASP 求解器的计算策略。

    May, 2024

  • AI 系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

    本文探讨了 AI 系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供 AI 系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出 AI 系统只能捕捉到相关关系而非因果关系可以减轻其影响。

    May, 2022