Jan, 2023

人的直觉在人工智能决策中的依赖作用及其解释

PDF
TL;DR此研究探讨了决策者对于任务预测和解释的一些直觉，发现了三种类型的直觉：关于任务结果、特征和 AI 限制。此外，该研究还通过两种类型的解释，探索了决策者如何运用自己的直觉来决定是否应该依赖 AI 预测，并发现了三条决策者运用自己直觉的路径。研究表明，AI 解释并不能总是提高决策者的决策效果并可能提高其对 AI 的过度依赖，但使用基于示例的解释则可能有助于完善人工智能的表现。
发现论文，激发创造
  • 解释可减少决策中对 AI 系统的过度依赖

    本文探讨了人类和人工智能决策团队的过度依赖现象，提出了一种基于成本效益框架的策略模型来平衡 AI 解释带来的成本和效益，证明了在某些情况下 AI 解释可降低过度依赖。

    Dec, 2022

  • 机器解释与人类理解

    本研究通过适应性因果图的方式，探讨了人机共存下机器学习模型解释与人类理解的相互作用。研究发现，提高人类针对模型决策边界的理解是可能的，但提高人类对任务决策边界或模型错误的理解需要结合人类主观性经验去实现。最后，本研究提出了一些可行的措施，以及未来机器学习模型解释研究的方向。

    Feb, 2022

  • 人工智能决策中的解释、公平性和适当依赖

    研究了基于 AI 解释和分布式公平性之间的关系，发现解释会影响公平感知，从而与人类对 AI 建议的依赖关系发生关联。该研究表明，基于特征的解释并不是改善分布式公正性的可靠机制。

    Sep, 2022

  • 理解反事实解释对人工智能辅助临床决策中信任与依赖的影响

    通过使用显著特征解释和假设性解释来更加分析性地对待人工智能建议，可以降低对人工智能的过度依赖，提高医疗决策过程中的性能和一致性，尤其是在确保人工智能提供正确输出的情况下。

    Aug, 2023

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 可解释的人工智能是否能改善人类决策？

    使用真实数据集进行对比和评估，在控制组、具有 AI 预测（未解释），以及具有解释的 AI 预测三组中比较和评估了人类决策的客观准确性。然后发现提供任何形式的 AI 预测都倾向于提高用户的决策准确性，但没有确凿的证据表明解释性 AI 具有实质性影响。因此，我们的研究结果表明解释性 AI 在某些情况下提供的 “何以解释” 的信息可能无助于用户的决策，需要进一步的研究来了解如何将解释性 AI 集成到实际系统中。

    Jun, 2020

  • 寻求可验证性：解释很少能够在 AI 辅助的决策判断中提供补充性的表现

    本文聚焦 AI 辅助决策，在 AI 解释人类决策过程中频繁失败的背景下，提出了一个简单的理论，即解释只有在允许决策者验证其正确性时才有用，我们讨论了更有效的 AI 决策解释方法和人工智能 - 人类决策的协作。

    May, 2023

  • 关于解释、公平感知和决策之间的关系

    研究人员探讨了 AI 系统推荐错误或不公平的情况下，人工干预的必要性，并提供了关于解释、公平感知、依赖和分布公平性之间关系的理论框架，但文献并没有提供确凿证据证明解释在实践中实现了这种补充关系。

    Apr, 2022

  • AI 辅助决策中置信度和解释对准确性和信任校准的影响

    研究了基于不同特征的人工智能辅助决策场景下，人类对人工智能的信任度与信任度校正，以及人类与人工智能协同工作的影响因素。结果表明，人类信任度的校正能够通过特定的置信度得到有效提高，尽管人类的专业独特知识对于决策的最终结果有良好的辅助作用，但同时也存在着使用本地解释会出现的问题。因此，我们需要探索新的可信度解释方法来更好地衡量和校正人类对人工智能的信任度。

    Jan, 2020

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023