Jun, 2024

超越推荐：从向后到向前的人工智能支持飞行员的决策过程

PDF
TL;DRAI 决策支持在航空等高风险领域有望提高人类决策能力，但由于过度依赖和与用户决策不一致等挑战，其应用常受限制。本研究旨在比较推荐为中心的支持与连续支持这两种不同范式在航空改航决策中的效果，考察结果表明连续支持结合推荐有助于飞行员向前思考超出系统限制的更多可能性，提供更快速的决策，而前向支持可能会受到干扰。参与者的陈述进一步建议将设计目标转移到支持快速信息获取，为超越全流程推荐的更有帮助和有效的 AI 决策支持提供了设计思路。
ai decision-makingaviationrecommendation-centric designcontinuous supportpilots
发现论文，激发创造
  • AI 副驾驶崛起：来自航空领域及其他领域的设计经验教训

    快速发展的人工智能以人工指导为基础的合作副驾驶模式，与仅仅是工具的角色相比，正在改变知识工作的各个方面，并将其影响扩展到日常生活和专业领域。本论文旨在从与人机交互和人因工程学等学科相关的研究和文献中强调在人工智能交互中保持人类监督的重要性，并呼吁通过强调积极的人类参与、控制和技能提升来设计人工智能合作伙伴关系，以促进和谐、有效和赋能的人工智能关系。

    Nov, 2023

  • 学习何时向人类决策者提供建议

    通过对已有的案例进行分析，本文提出了交互式人工智能决策辅助系统的设计，旨在通过学习人类的选择来决定何时提供算法支持，从而提高决策的准确性和可靠性。作者在美国刑事司法系统的前期释放审判方面进行了大规模实验，并发现交互式辅助系统能够在必要的时候提供准确的建议，与固定的非交互式系统相比较，可以显著提高人类的决策水平。同时，交互式辅助系统还具有促进人类学习、保护人类决策者补充优势、促进对建议的更积极响应等优点。

    Sep, 2022

  • 面向协同人工智能任务的用户中心策略推荐系统设计

    本文旨在研究设计面向用户的策略推荐系统时需要考虑的重要因素。我们进行了一项人体实验，测量了不同性格类型的用户对不同策略推荐系统的偏好，并发现某些人格特征明显影响了特定类型的系统的偏好。最后，我们报告了推荐的可用性、一致性和感知智能之间的有趣关系，其中更高的一致性与个人偏好推荐会导致更高的感知智能和可用性。

    Jan, 2023

  • 人工智能是否帮助人类做出更好的决策？一种实验评估的方法论框架

    基于数据驱动算法的人工智能在当今社会中已普遍应用，但在许多情况下，尤其是当风险较高时，人类仍然作出最终决策。本研究引入了一种新的方法框架，可用于在无额外假设的情况下实验性地回答这个问题。我们采用标准分类指标来衡量决策者做出正确决策的能力，通过单盲实验设计随机对案例进行人工智能生成的建议，并由人类作出最终决策，我们比较了三种可选的决策系统的表现：单独人类、人类辅助人工智能和单独人工智能。对我们自己进行的随机对照试验中的数据应用了提出的方法论，发现人工智能建议并没有提高法官决定是否强制缴纳保释金的分类准确性。分析还表明，单独人工智能的决策通常比人类决策（无论是否辅助人工智能）表现更差。最后，相比白人被捕者，在对非白人被捕者的针对性保释方面，人工智能建议往往不必要地更频繁地强制缴纳保释金。

    Mar, 2024

  • 学习制定注重依从性的建议

    考虑到人对人工智能建议的忽视以及人工智能在最相关时刻有选择性地提供建议的需要，本文提出了一个顺序决策模型，该模型考虑到人的依附水平并引入了一个推迟选项，以便机器能够暂时不提供建议，并提供了能够学习最佳建议政策并仅在关键时间点提供建议的学习算法。与通用强化学习算法相比，我们的专门化学习算法不仅具有更好的理论收敛性能，而且表现出强大的实证性能。

    Oct, 2023

  • 训练至关重要的用途：学习将 AI 预测定位于人类知识的相对位置

    本文介绍了一个过程导向的适当依赖概念，称为关键使用，通过将人类的能力与 AI 模型无法获取的知识相对比，以帮助人们辅助 AI 决策时的判断。通过在一个复杂的社会决策环境下进行随机在线实验来探索如何支持关键使用的训练，我们发现通过在这种情况下为参与者提供加速的、低成本的机会来练习 AI 辅助决策，新手参与者开始表现出与经验工作者相似的与 AI 不一致的模式。参与者对其 AI 辅助决策的解释的定性研究表明，他们参考了 AI 模型无法获取的定性案例叙述，以学习何时（不）依赖 AI 预测。我们的研究结果为实现真实世界的 AI 辅助决策的培训提出了新的问题和设计思路。

    Aug, 2023

  • 利用人工智能生成的决策辅助工具提升人类决策能力

    使用机器学习和认知科学的方法为人类决策制定决策辅助方法，将其转化为自然语言指令可显著提高决策性能。

    Mar, 2022

  • 推进人工智能和人类互补性：用户专业知识和算法调优对共同决策的影响

    研究了用户与三个模拟算法模型的交互，发现较低水平的用户虽然能从 AI 建议中受益，但是他们的决策水平却没能达到 AI 的精度，高水平用户则通常能辨别何时应该遵循 AI 建议并保持或提高其性能，而中等水平者则最不稳定，AI 建议会对其性能产生帮助或伤害，此外，用户对 AI 性能的感知也对决策的精度影响非常大。该研究提供了关于人工智能协作相关复杂因素的见解，并提出了如何开发以人为本的人工智能算法以辅助用户在决策任务中的建议。

    Aug, 2022

  • 克服先入为主偏差：人工智能和可解释性人工智能在决策支持中的潜力

    信息系统经常被设计为利用锚定偏误的负面影响来影响个人的决策（例如通过操纵购买决策）。最近人工智能和可解释人工智能解释其决策的进展为减轻有偏见的决策开辟了新机会。迄今为止，这些技术进步克服锚定偏误的潜力仍然不清楚。为此，我们在购买决策背景下进行了两个在线实验，共有 N=390 名参与者，以研究人工智能和可解释人工智能决策支持对锚定偏误的影响。我们的结果表明，人工智能单独和与可解释人工智能的结合有助于减轻锚定偏误的负面影响。最终，我们的发现对于人工智能和可解释人工智能决策支持和信息系统的设计以克服认知偏见具有影响。

    May, 2024

  • 人工智能决策的科学化：经验研究综述

    研究了人工智能辅助下的人类决策制定，结合超过 100 篇论文总结了该领域的三个重要方面，即决策任务、AI 模型和 AI 辅助元素以及评估指标并提出了未来研究建议，强调建立共同框架以促进人工智能和人机交互社区协作，形成推广的科学知识。

    Dec, 2021