基于数据驱动算法的人工智能在当今社会中已普遍应用，但在许多情况下，尤其是当风险较高时，人类仍然作出最终决策。本研究引入了一种新的方法框架，可用于在无额外假设的情况下实验性地回答这个问题。我们采用标准分类指标来衡量决策者做出正确决策的能力，通过单盲实验设计随机对案例进行人工智能生成的建议，并由人类作出最终决策，我们比较了三种可选的决策系统的表现：单独人类、人类辅助人工智能和单独人工智能。对我们自己进行的随机对照试验中的数据应用了提出的方法论，发现人工智能建议并没有提高法官决定是否强制缴纳保释金的分类准确性。分析还表明，单独人工智能的决策通常比人类决策（无论是否辅助人工智能）表现更差。最后，相比白人被捕者，在对非白人被捕者的针对性保释方面，人工智能建议往往不必要地更频繁地强制缴纳保释金。

Mar, 2024

每天我们越来越依赖于机器学习模型来自动化和支持高风险任务和决策。这篇论文提出了混合决策系统的分类法，提供了一个概念和技术框架，以理解当前计算机科学文献中的人机交互模型。

Feb, 2024

该研究旨在通过对医疗保健领域专家的一系列半结构化采访，识别人工智能用于临床决策的采用因素，并突出现有紧张关系与有效的人工智能协作之间的因素。

Apr, 2022

研究表明，当涉及到风险元素和评估人类和 AI 代理能力的探索利用过程时，人工智能和人类在小组决策方面具有互补技能。本文面向一组带有缺陷的 AI 代理人，向人类团队提交一系列智力问题，以评估团队成员和可用 AI 代理人的相对专业知识，评估不同行动的风险并通过达成共识来最大化整体回报，并提出了人工智能 - 人类团队决策的模型。研究验证了在不确定情况下的人工智能团队和人类行为预测中的前景理论、影响动态和贝叶斯学习的社会认知构建的价值。

Jan, 2022

人工智能在决策支持系统中的应用主要集中在技术进步方面，忽视了算法输出与人类期望的一致性。为了解决这个问题，可解释的人工智能提倡更加以人为中心的发展。为了更好地理解人与人工智能的交互，我们通过对 105 篇选定文章进行系统综述，提出了一种交互模式分类系统，以深入研究不同人机交互方式。通过对现有研究的分析发现，现有的交互方式主要是简单的合作模式，对于真正的交互功能的支持相对较少。我们的分类系统将有助于理解当前决策环境中人与人工智能的交互方式，并促进交互设计的有意选择。

Oct, 2023

人机感知人工智能是一种以设计为导向的范式，专注于对其可能与之互动的人进行建模，并通过使用这些维度作为工具，了解和审查与人工智能系统相关的当前工作情况。

May, 2024

通过对已有的案例进行分析，本文提出了交互式人工智能决策辅助系统的设计，旨在通过学习人类的选择来决定何时提供算法支持，从而提高决策的准确性和可靠性。作者在美国刑事司法系统的前期释放审判方面进行了大规模实验，并发现交互式辅助系统能够在必要的时候提供准确的建议，与固定的非交互式系统相比较，可以显著提高人类的决策水平。同时，交互式辅助系统还具有促进人类学习、保护人类决策者补充优势、促进对建议的更积极响应等优点。

Sep, 2022

这篇论文通过对 Explainable AI 领域的研究进行统计元分析，得出了 Explainable AI 对于用户决策性能有积极的统计效应，但是并未表明解释对用户的决策性能产生了任何影响，有利于今后研究基于 AI 的非人类决策中人类因素的影响。

May, 2022

本文分析了人工智能治理的技术解决方案，提出了一个分类目录，分为四个领域：探索伦理困境、个体伦理决策框架、集体伦理决策框架和人工智能交互中的伦理问题，并讨论了面向成功将伦理人工智能系统整合到人类社会的未来研究方向。

Dec, 2018

本文主张人工智能系统需要模拟、理解、甚至复制人类的认知偏差，在人机协作中扮演更加重要的角色，并提出了关于人类认知偏差和人工智能之间相互作用的研究议程及三个感兴趣的广泛领域，并为具有更好对人类偏见的人工智能系统的设计方向提出了研究方向。

Oct, 2022