通过对该领域的文献进行梳理和分类，可以为未来的研究者和智能系统从业人员提供洞见和方向，以人为中心，信息为重点的角度探究人类对智能代理的信任感，并决定是否接受该代理的推荐或行动建议所需的额外信息。

May, 2022

这篇论文针对机器人、虚拟角色、智能车辆、决策帮助等各类 AI 系统中关于信任模型的应用和测量方法缺乏标准化的现状进行了概述和分析。作者提出了一些系统的研究目标，并为当前文献汇总的优点和缺点提供了解决方案和研究议程。

Apr, 2022

本论文探讨了信任对使用人工智能技术意图的影响，结果显示信任通过感知有用性和使用者对助手的态度影响了使用意图，功能相关的信任对使用意图的影响大于人类的信任，在 AI 相关应用中，信任对技术的接受起着重要的作用，并提供了可用于未来研究的基于多维度的信任度量方法。

Mar, 2022

本文提供一个源于社会科学、能够形式化表达价值的形式化表述，并使用此表述明确了实现 AI 价值对齐的关键挑战和研究路线图。

May, 2023

人工智能在我们的日常生活中越来越广泛地使用，尤其在各种应用、服务和产品中。因此，从用户角度来看，对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述，探讨了当前人工智能领域的信任概念，并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外，还提出了技术和非技术的可信度指标以及一些可信度衡量标准，并分析了一些人工智能中的主要破坏因素和信任建立因素，并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。

Mar, 2024

对用户信任、影响因素和测量方法进行的 23 个实证研究的综述确认了定义信任的多种方法和用户特征对 AI 启用系统中的信任产生的影响等主题，从而为未来技术和设计策略、研究和举措提供了洞察。

Apr, 2023

预测协作可能性和衡量对人工智能系统的认知信任比以往任何时候都更加重要。为了解决这个问题，我们提出了几种基于分歧度量（如 KL，JSD）的决策相似度度量方法，这些方法通过对人类获取的标签和各种模型所得到的标签进行计算。我们在一个文本蕴涵任务上进行了用户研究，用户被提供了来自各种模型的软标签，并被要求选择与他们最接近的选项。然后，用户看到了与他们最相似的模型的相似性 / 差异，并被询问他们对所选择系统的协作可能性和认知信任的看法。最后，我们对提出的决策相似度度量方法与调查结果之间的关系进行了定性和定量分析。我们发现人们倾向于与他们最相似的模型进行协作（通过 JSD 来衡量），然而这种协作并不一定意味着相似的认知信任水平。我们在我们的资源库中发布了与用户研究（如设计，输出）、模型和度量有关的所有资源。

Dec, 2023

这篇论文通过系统综述研究了人工智能系统中适当信任的建立、度量方式、使用的任务类型以及相关挑战，并提出了一种基于信仰、意图和行为的映射方法，总结了当前趋势、潜在差距和未来工作的研究机会，以推进我们对适当信任的复杂概念在人工智能交互中的理解。

Nov, 2023

构建与人类价值观相符的人工智能系统是当前面临的重要挑战之一。本研究提出了一个形式化模型，以明确计算地表示人类价值观，为基于人类价值观的人工智能推理提供了理论基础，并在实际应用中验证了该模型的适用性。通过这种自动推理人类价值观的能力，不仅能解决价值观一致性问题，还有助于设计支持个人和社区做出更明智、与价值观相符的决策的人工智能系统。

Feb, 2024

该研究针对 AI 辅助决策中人类决策者何时应该信任 AI，何时应该信任自己的问题，提出了基于任务实例级别的双方正确概率计算及三种信任校准策略，并进行了两项初步研究和一项比较实验，结果表明该方案的效果显著提高了人类对 AI 的适当信任，为更人性化的 AI 决策提供了实用意义。

Jan, 2023