人机信任问卷的元分析:趋同性度量与新兴模型
这篇论文针对机器人、虚拟角色、智能车辆、决策帮助等各类 AI 系统中关于信任模型的应用和测量方法缺乏标准化的现状进行了概述和分析。作者提出了一些系统的研究目标,并为当前文献汇总的优点和缺点提供了解决方案和研究议程。
Apr, 2022
信任是人们对机器人和技术进行采纳的重要因素,因此研究过去几十年的文献主要关注于测量人们对机器人和技术的信任程度,特别是在人机交互方面。本文中,我们概述了当前的研究方法及其优势,提出了一些薄弱方面,并讨论了在人机交互中影响信任度的更全面因素的潜力。
Nov, 2023
通过对该领域的文献进行梳理和分类,可以为未来的研究者和智能系统从业人员提供洞见和方向,以人为中心,信息为重点的角度探究人类对智能代理的信任感,并决定是否接受该代理的推荐或行动建议所需的额外信息。
May, 2022
该论文的工作基于当前人工智能用户信任话语,旨在通过使用信任作为促进当前技术采用(或适用)的工具,提出一种新颖的人机交互方法。作者提出了一个框架(HCTFrame),以指导非专家解锁用户对 AI 设计的信任的全部潜力。经过三个文献综述发现的数据三角化得出的结果揭示了计算机科学和人工智能话语中有关用户信任的一些误解,并进行了三个案例研究评估了心理测量量表的有效性,以映射潜在用户的信任破裂和关注点。该工作主要对抗设计技术中心易受攻击的交互的趋势,这最终可能导致更多现实和感知的信任违规。提出的框架可用于指导系统设计者,如何映射和定义用户信任,以及 AI 系统设计的社会伦理和组织需求和特征。它还可以指导 AI 系统设计者如何开发原型并使解决方案实现用户信任要求。该文章最后提供了一些用户研究工具,可用于测量用户的信任意向和行为,以评估所提出的解决方案。
May, 2023
对用户信任、影响因素和测量方法进行的 23 个实证研究的综述确认了定义信任的多种方法和用户特征对 AI 启用系统中的信任产生的影响等主题,从而为未来技术和设计策略、研究和举措提供了洞察。
Apr, 2023
此研究旨在调查影响建筑工程专业人员对人工智能驱动的协作机器人的信任的关键技术和心理因素。通过对 600 名建筑行业从业人员进行全国范围的调查,研究深入了解了促进该技术有效采用、培养和培训熟练劳动力的未来机会,结合结构方程模型分析表明,安全和可靠性对于建筑领域中采用人工智能协作机器人至关重要。担心因使用协作机器人而被取代可以对受影响的工人的心理健康产生重大影响。对涉及协作机器人工作的较低错误率、安全措施和从作业现场收集的数据的安全性显著影响可靠性,而协作机器人内部运作的透明性有助于准确性、稳健性、安全性、隐私性和通信,并产生更高水平的自动化,所有这些因素均被证明是信任的贡献因素。本研究的研究结果提供了建筑工程专业人员对建筑领域采用协作机器人的认知和经验的重要见解,并帮助项目团队确定与公司目标和工人福利相一致的采用方法。
Aug, 2023
本文提出了一种基于心理模型的信任理论,它不仅能够被用于推断信任,从而提供了一种替代心理或行为信任推断方法,而且还能作为基础用于任何信任感知的决策框架,通过对人类研究的对比,我们发现本文所提出的理论比最常用的信任量表(穆尔量表)更符合人类观察结果。
Jan, 2023
这篇论文通过系统综述研究了人工智能系统中适当信任的建立、度量方式、使用的任务类型以及相关挑战,并提出了一种基于信仰、意图和行为的映射方法,总结了当前趋势、潜在差距和未来工作的研究机会,以推进我们对适当信任的复杂概念在人工智能交互中的理解。
Nov, 2023
人工智能在我们的日常生活中越来越广泛地使用,尤其在各种应用、服务和产品中。因此,从用户角度来看,对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述,探讨了当前人工智能领域的信任概念,并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外,还提出了技术和非技术的可信度指标以及一些可信度衡量标准,并分析了一些人工智能中的主要破坏因素和信任建立因素,并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。
Mar, 2024