思考食品:关于用户信任计算机视觉的伦理考虑
本文通过对一款实际计算机视觉应用进行的定性案例研究,提出了关于信任人工智能的全面而细致的理解。我们发现,领域知识和情境是评估和决策的重要因素,用户普遍认为该应用程序值得信任,但进行了确认行为,对于某些高风险情境,则决定不采用该应用程序。
May, 2023
对用户信任、影响因素和测量方法进行的 23 个实证研究的综述确认了定义信任的多种方法和用户特征对 AI 启用系统中的信任产生的影响等主题,从而为未来技术和设计策略、研究和举措提供了洞察。
Apr, 2023
该论文的工作基于当前人工智能用户信任话语,旨在通过使用信任作为促进当前技术采用(或适用)的工具,提出一种新颖的人机交互方法。作者提出了一个框架(HCTFrame),以指导非专家解锁用户对 AI 设计的信任的全部潜力。经过三个文献综述发现的数据三角化得出的结果揭示了计算机科学和人工智能话语中有关用户信任的一些误解,并进行了三个案例研究评估了心理测量量表的有效性,以映射潜在用户的信任破裂和关注点。该工作主要对抗设计技术中心易受攻击的交互的趋势,这最终可能导致更多现实和感知的信任违规。提出的框架可用于指导系统设计者,如何映射和定义用户信任,以及 AI 系统设计的社会伦理和组织需求和特征。它还可以指导 AI 系统设计者如何开发原型并使解决方案实现用户信任要求。该文章最后提供了一些用户研究工具,可用于测量用户的信任意向和行为,以评估所提出的解决方案。
May, 2023
整理了有关人工智能信任和人工智能的可信度的文献概述,强调了需要更明确区分这些概念并获取更多实证证据以了解人们信任行为的要素。指出对人工智能的信任不仅涉及对系统本身的依赖,还包括对人工智能开发者的信任。伦理原则如可解释性和透明性通常被认为能提高用户的信任,但关于这些特点如何实际影响用户对系统可信度认知的实证证据并不丰富或不太明确。应将人工智能系统视为社会技术系统,设计、开发、部署和使用系统的人员与系统本身一样重要,才能确定系统是否值得信任。忽视这些细微差别,人工智能的信任和可信度有可能成为针对任何人工智能系统的模糊术语。
Sep, 2023
人工智能在我们的日常生活中越来越广泛地使用,尤其在各种应用、服务和产品中。因此,从用户角度来看,对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述,探讨了当前人工智能领域的信任概念,并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外,还提出了技术和非技术的可信度指标以及一些可信度衡量标准,并分析了一些人工智能中的主要破坏因素和信任建立因素,并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。
Mar, 2024
本研究探讨了现有方法对于以用户为中心的服务生态系统中 AI 信任度评估的适用性,并提出了一种面向系统化且以用户为中心的值得信赖的 AI 研究议程。
Feb, 2022
本文旨在阐明人工智能话语中用户信任的一些误解,并打击设计易受攻击的交互所导致的进一步信任违规事件的倾向。发现揭示了理解用户信任及其对计算机科学的影响的缺乏清晰度,特别是在测量用户信任特征方面。文中呼吁澄清这些概念,以避免人工智能采纳和适用中可能出现的信任差距和误解。
May, 2023
本论文探讨了信任对使用人工智能技术意图的影响,结果显示信任通过感知有用性和使用者对助手的态度影响了使用意图,功能相关的信任对使用意图的影响大于人类的信任,在 AI 相关应用中,信任对技术的接受起着重要的作用,并提供了可用于未来研究的基于多维度的信任度量方法。
Mar, 2022
通过建立 MATCH 模型,本文探讨了如何在人工智能系统中通过可信度提示进行信任建立,强调透明度和互动等技术的重要性,提出了技术设计者需要意识到用户认知过程和其潜在局限性以选择可靠的可信度提示,并定义适当的提示标准及开销,鼓励相关行业规范技术应用和预防恶意行为。
Apr, 2022
AI 系统的可信发展需要多学科治理,通过关键的系统检查(如能源消耗)来全面审查其生命周期中的社会影响,以及从计算机科学、社会学、环境科学等多学科角度讨论其互相关联的社会风险和无法同时满足健康的方面,从社会伦理影响评估的角度强调了全面解决 AI 系统紧迫问题的必要性,以揭示其对社会的有害影响,真正实现以人为中心的可信 AI。
Sep, 2023