基于动态结构方程模型的人工智能与人类合作中的信任动态预测
此研究旨在调查影响建筑工程专业人员对人工智能驱动的协作机器人的信任的关键技术和心理因素。通过对 600 名建筑行业从业人员进行全国范围的调查,研究深入了解了促进该技术有效采用、培养和培训熟练劳动力的未来机会,结合结构方程模型分析表明,安全和可靠性对于建筑领域中采用人工智能协作机器人至关重要。担心因使用协作机器人而被取代可以对受影响的工人的心理健康产生重大影响。对涉及协作机器人工作的较低错误率、安全措施和从作业现场收集的数据的安全性显著影响可靠性,而协作机器人内部运作的透明性有助于准确性、稳健性、安全性、隐私性和通信,并产生更高水平的自动化,所有这些因素均被证明是信任的贡献因素。本研究的研究结果提供了建筑工程专业人员对建筑领域采用协作机器人的认知和经验的重要见解,并帮助项目团队确定与公司目标和工人福利相一致的采用方法。
Aug, 2023
这篇论文针对机器人、虚拟角色、智能车辆、决策帮助等各类 AI 系统中关于信任模型的应用和测量方法缺乏标准化的现状进行了概述和分析。作者提出了一些系统的研究目标,并为当前文献汇总的优点和缺点提供了解决方案和研究议程。
Apr, 2022
本文提出了一种基于心理模型的信任理论,它不仅能够被用于推断信任,从而提供了一种替代心理或行为信任推断方法,而且还能作为基础用于任何信任感知的决策框架,通过对人类研究的对比,我们发现本文所提出的理论比最常用的信任量表(穆尔量表)更符合人类观察结果。
Jan, 2023
研究旨在提高人工智能系统的可信度和信任度,开发能够适应实际应用场景的人工智能系统,并将人类放在其中心地位,使其能够有效地使用系统,理解输出和解释结果以满足监管委员会的要求。
Jan, 2020
人工智能在我们的日常生活中越来越广泛地使用,尤其在各种应用、服务和产品中。因此,从用户角度来看,对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述,探讨了当前人工智能领域的信任概念,并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外,还提出了技术和非技术的可信度指标以及一些可信度衡量标准,并分析了一些人工智能中的主要破坏因素和信任建立因素,并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。
Mar, 2024
人工智能系统的可靠性和决策呈现方式对用户建立 AI 系统的心理模型至关重要,现代自然语言处理系统常常不可靠,导致系统信任被削弱,研究发现用户对错误和不准确的信心估计会对信任和性能造成损害,并且这种损害缓慢恢复,这些发现凸显了用户面向的人工智能应用中测定是否信任该系统时校准的重要性。
Oct, 2023
本文研究了人工智能和人类协作的关键问题,提出了基于语料库的用户模拟器用于协同人 - AI 团队之间的有效沟通和合作,比较了两种不同的模拟方法,以寻找最佳的主动策略。
Apr, 2023
本论文探讨了信任对使用人工智能技术意图的影响,结果显示信任通过感知有用性和使用者对助手的态度影响了使用意图,功能相关的信任对使用意图的影响大于人类的信任,在 AI 相关应用中,信任对技术的接受起着重要的作用,并提供了可用于未来研究的基于多维度的信任度量方法。
Mar, 2022
对用户信任、影响因素和测量方法进行的 23 个实证研究的综述确认了定义信任的多种方法和用户特征对 AI 启用系统中的信任产生的影响等主题,从而为未来技术和设计策略、研究和举措提供了洞察。
Apr, 2023
本文综述了因果方法对于提高可信 AI 解决方案的应用和发展,因为现有的 AI 模型大多缺乏对人类真实世界理解的因果关系的认识,从而导致了模型泛化性能差、不公平以及难以解释等问题。
Feb, 2023