Oct, 2022

认知心理学中的解释有效性：合适的信任探讨

PDF
TL;DR人工智能的迅猛发展需要开发者和设计师注重人和机器的合作。通过理解认知心理学的发现，确定了四个构成元素，即感知、语义、意图和用户与上下文，以设计有效的解释，如通过将文本和视觉、可能性和实例、意向交流融合，实现了计算食品卡路里的例子，并建议在解释生成和交流之间增加一个额外的步骤，以确定解释的效力。
artificial intelligencecollaborationexplanationdesignersperception
发现论文，激发创造
  • 解释可减少决策中对 AI 系统的过度依赖

    本文探讨了人类和人工智能决策团队的过度依赖现象，提出了一种基于成本效益框架的策略模型来平衡 AI 解释带来的成本和效益，证明了在某些情况下 AI 解释可降低过度依赖。

    Dec, 2022

  • 人工智能在协同工作中可解释性和可接受性要求

    该论文探讨了需求透明度和可接受性以建立人类对 AI 的信赖感，具体介绍了开发者和最终用户在信息需求方面的差异以及信任在人工智能系统中的作用。

    Jun, 2023

  • 人工智能中的解释性：来自社会科学的见解

    该论文提出，可从解释生成、选择、评估和呈现的人类认知偏见和社会期望中借鉴人类解释行为，以推进可解释的人工智能领域，并回顾了哲学、认知心理学、社会心理学等相关领域的研究成果。

    Jun, 2017

  • 迷失于能力中：评估解释对用户对视觉问答系统的心智模型的影响

    我们研究了当一个 AI 系统遇到一项不能完美执行的任务时，用户如何看待其限制，并且提供解释是否有助于用户构建系统能力和限制的适当心理模型。通过控制视觉输入，在视觉问答解释任务中，我们操控 AI 系统的限制：在推理过程中，该系统可以处理全彩色或灰度图像。我们的目标是确定参与者是否能够察觉到该系统的限制。我们假设解释会使有限的 AI 能力对用户更加透明。然而，我们的研究结果显示解释没有这种效果。与其实际表现无关，解释通常会增加用户对系统能力的认知。

    Jun, 2024

  • 从头还是从心？解释对认知和情感信任影响的实验设计

    研究发现，AV 解释对乘客的信任有促进作用，不过这一效果在认知信任和情感信任上可能会有所不同。因此，该研究旨在探究 AV 解释对认知和情感信任的影响，以更好地设计 AV 解释，并促进人们对 AV 的信任。

    Oct, 2021

  • 关于适当信任的定义及其相关工具

    通过比较定义和模型性能评估，本文提出了一种新颖的方法来评估适当的信任，包括针对用户表现的几种简单直接的评估方法，包括建议一种测量回归中不确定性和适当信任的方法。

    Sep, 2023

  • 人的直觉在人工智能决策中的依赖作用及其解释

    此研究探讨了决策者对于任务预测和解释的一些直觉，发现了三种类型的直觉：关于任务结果、特征和 AI 限制。此外，该研究还通过两种类型的解释，探索了决策者如何运用自己的直觉来决定是否应该依赖 AI 预测，并发现了三条决策者运用自己直觉的路径。研究表明，AI 解释并不能总是提高决策者的决策效果并可能提高其对 AI 的过度依赖，但使用基于示例的解释则可能有助于完善人工智能的表现。

    Jan, 2023

  • 个性化解释基于人工智能推荐的用户认知能力的实证评估

    通过对智能辅导系统生成解释进行个性化处理，针对具有认知需求和勤奋度水平较低的学生，旨在增加这些学生对解释的参与度以促进学习，在用户研究中发现，该个性化处理显著增加目标用户与提示解释的互动、理解程度和学习效果，因此，该研究为个性化 AI 解释在学习等认知要求较高的任务中提供了有价值的见解。

    Mar, 2024

  • 面向人类认知水平的反事实解释实验设计（XAI）

    使用 Bloom's 分类法作为用户的认知能力测量模型，在讲解生成的过程中采用反事实解释为媒介，结合用户反馈，验证讲解在每个认知层次上的理解水平，并据此改进讲解的生成方法。

    Oct, 2022

  • 模型准确性和解释透明度如何影响用户信任

    研究表明，在机器学习中，准确度比可解释性更重要，添加解释可能会损害用户信任，同时高度真实的解释不能欺骗用户的信任，用户的信任感与其实际表现不符。

    Jul, 2019