Aug, 2023

理解反事实解释对人工智能辅助临床决策中信任与依赖的影响

PDF
TL;DR通过使用显著特征解释和假设性解释来更加分析性地对待人工智能建议，可以降低对人工智能的过度依赖，提高医疗决策过程中的性能和一致性，尤其是在确保人工智能提供正确输出的情况下。
artificial intelligencesalient feature explanationscounterfactual explanationsclinical decision-makinghuman-ai collaborative decision-making
发现论文，激发创造
  • AI 系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

    本文探讨了 AI 系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供 AI 系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出 AI 系统只能捕捉到相关关系而非因果关系可以减轻其影响。

    May, 2022

  • 使用反事实解释模型置信度提升模型理解和信任

    本文阐述了反事实解释信心分数是如何帮助用户更好地理解和更好地信任 AI 模型的预测，在人机交互系统中展示信心分数可以帮助建立人类和 AI 系统之间的信任，提出了两种用于理解模型信心的方法：(1) 基于反事实例；和 (2) 基于反事实空间的可视化。

    Jun, 2022

  • 揭示反事实解释在就业能力的潜力

    本研究提出反事实解释在复杂机器学习算法下的应用，以数据实例展示其在雇用相关问题中提高决策支持、遵守法律要求、引导受控变更和分析新颖洞见的作用。

    May, 2023

  • 解释可减少决策中对 AI 系统的过度依赖

    本文探讨了人类和人工智能决策团队的过度依赖现象，提出了一种基于成本效益框架的策略模型来平衡 AI 解释带来的成本和效益，证明了在某些情况下 AI 解释可降低过度依赖。

    Dec, 2022

  • 强化学习的反事实解释

    通过重新定义反事实解释方法，结合强化学习的特点，探索在强化学习领域实现反事实解释的方法和研究方向。

    Oct, 2022

  • 超越已知现实：利用反事实解释进行医学研究

    该研究采用反事实解释方法探索医学研究的 “假设场景”，特别关注利用 MRI 特征诊断儿科后颅窝脑肿瘤，并探索反事实的潜在用途并评估其作为医疗研究中的替代方法的可行性和前景。

    Jul, 2023

  • 可解释性特征：用户如何理解 XAI 中分类型和连续特征的因果和反事实解释

    通过对 127 名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单 AI 系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • 利用反事实分析解释模型确信度

    本文探究面向人工智能交互中置信度得分的反事实解释如何增强人对机器学习模型预测的理解和信任，并提出了两种理解置信度得分的方法，即基于反事实案例和基于反事实空间可视化，这两种方法可以相互补充，但也存在异同，因此需要进一步研究和设计更加精准有效的解释方法和应用场景。

    Mar, 2023

  • 因果解释的分歧：透明度如何具有欺骗性

    本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

    Apr, 2023

  • 如果我们有更好的反事实解释：修正反事实 XAI 技术评估中的五个主要不足

    该论文通过调查 100 种不同的反事实解释方法，评估这些方法在心理和计算上的不足，并列出了五个关键的评估缺陷，并提出了标准化基准评估的路线图来解决这些影响该领域科学进展的问题。

    Feb, 2021