Jun, 2023

反事实解释方向对 xAI 用户行为的影响

PDF
TL;DR用户研究表明，升向因果解释（upward CFE）可提高模型和用户的效率和知识水平，并强调了混合因果解释（mixed CFEs）相对于降向因果解释（downward CFEs）或无解释的潜在益处。
counterfactual explanationsexplainable artificial intelligenceuser studyupward cfesregulatory fit
发现论文，激发创造
  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能 (XAI) 是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释 (CFEs) 通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解 CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024

  • 基于用户反馈的反事实解释介绍 (UFCE)

    本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

    Feb, 2024

  • AI 系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

    本文探讨了 AI 系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供 AI 系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出 AI 系统只能捕捉到相关关系而非因果关系可以减轻其影响。

    May, 2022

  • 保持亲密关系，让反事实更近：在抽象设置中从最近的反事实解释中提高学习效果

    本研究旨在评估计算合理性和心理合理性之间的差异，结果表明，心理学合理性与计算合理性之间存在巨大差异，特别是在处理详细的模型解释时，需要考虑人类行为，偏好和心理模型，以在 XAI 的设计阶段获得更好的用户体验。

    May, 2022

  • 可解释性特征：用户如何理解 XAI 中分类型和连续特征的因果和反事实解释

    通过对 127 名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单 AI 系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • 反事实解释的迭代部分满足：利益与风险

    本文研究递归部分履行 (CF) 解释在迭代过程中的行为是否增加或减少了被试的总改进成本，我们提出了一个 IPF 的数学形式化，并理论和实验上证明了不同 CF 算法在 IPF 下表现出截然不同的行为，因此对 CF 算法的研究需要考虑这一因素。

    Mar, 2023

  • 揭示反事实解释在就业能力的潜力

    本研究提出反事实解释在复杂机器学习算法下的应用，以数据实例展示其在雇用相关问题中提高决策支持、遵守法律要求、引导受控变更和分析新颖洞见的作用。

    May, 2023

  • 统一视角：全球、群体和局部级别上的合理反事实解释

    通过梯度优化，引入了一种新的整合方法，为可区分分类模型生成本地、小组和全局反事实解释，以解决全局反事实解释所面临的挑战，并增强了可行性和可信度，从而提高了 AI 模型的可解释性和负责任性。

    May, 2024

  • 用扩散距离和方向连贯性增强反事实解释搜索

    提出并测试了两种新的偏差，以增强对有效逆因对照解释的搜寻，方法为应用扩散距离和引入定向一致性项；通过在合成和实际数据集上进行一系列消融实验，证明了该方法的有效性。

    Apr, 2024

  • 在大规模状态空间中学习可行的反事实解释

    我们提供了一个实验证明的深度网络学习过程，可以在此任务上取得强大的性能表现。我们考虑了几种问题形式，包括在未明确提供 “能力” 和行动影响的情况下的公式，因此存在信息挑战和计算挑战。我们的问题也可以看作是在一系列大型但确定性的马尔可夫决策过程（MDPs）中学习最优策略之一。

    Apr, 2024