Mar, 2023

人工智能与人类混合系统中通过委派来弥补感知失败的方法

PDF
TL;DR在考虑到人工智能的自主行动和增强人类活动的情况下，本文从人工智能和人类哪一方出现失误的因素（例如感知）入手，研究了人工智能辅助的情况下如何做出正确的决策，利用强化学习模型提高机器智能，从而提高团队绩效。
autonomous systemsfailureshuman-ai teamingsensing capabilitiesreinforcement learning
发现论文，激发创造
  • 优化协作人工智能混合团队中的委托

    人类和自主系统作为混合团队操作时，通过引入 AI 经理（通过强化学习学习团队的行为模型），在最大程度提高团队的综合性能的同时，最大限度减少 AI 经理介入的频率。

    Feb, 2024

  • 人工智能协作代理之间的委托优化

    在人工智能或自主智能体与人类组成的混合团队中，通过观察团队表现，我们的框架提供了一个经理模型，用于准确识别何时授权团队成员执行动作，而不限制代理机器人的环境模型，结果显示经理模型在不同环境表示下的代理团队中取得了显著的优势。

    Sep, 2023

  • 优化风险厌恶的人工智能人类混合团队

    通过使用一种标准的强化学习方案以及经理人的学习，我们提出了一种能够改善混合团队（即人类与人工智能系统共同工作的团队）性能的方法，并展示了这个经理人在多个格子环境下的最优表现。

    Mar, 2024

  • 一种错误易发人工智能和人类代理之间的委派认知框架

    研究人工智能系统和人类在同一环境下应怎样理解和相应对方行为，通过认知模型预测双方行为并通过中介控制实现目标的达成。

    Apr, 2022

  • 人工智能协作：AI 委派对人类任务执行和满意度的影响

    在一项 196 名参与者的实验研究中，我们发现，无论人类是否意识到辅助作业的人工智能模型，通过代理任务来协同完成工作可以提高任务的表现和满意度，同时提高自我效能感，这为 AI 担负更多的管理责任是人 - AI 协作的有效形式提供了初步证据。

    Mar, 2023

  • 人机协作中语境信息对人类委托行为的影响

    通过提供上下文信息，研究人员发现可以显著提高人工智能团队和人类之间的协作性，同时也改变了人们对于委派任务的行为方式，为设计更有效的协作系统提供了可行的见解。

    Jan, 2024

  • 人工智能与人类智能在灾害响应规划中的协同

    通过提出受到二元过程理论（DPT）启发的基于注意力机制的认知架构，结合快速启发式（类似人类）反应和机器智能的优化规划能力，我们展示了如何通过评估其在多个不同属性上的表现，动态决定二者的参与度以优化任务目标，并在动态环境中的轨迹规划中验证了该框架有效地管理复杂任务并优化多个任务目标。

    Apr, 2024

  • 偏倚缓解之补偿：一种强化学习视角

    人工智能与人类决策的整合越来越紧密，我们必须仔细考虑两者之间的相互作用。尤其是当前的方法着重于优化个体代理行为，但往往忽视了集体智能的微妙之处。群体动态可能要求一个代理（例如，人工智能系统）对另一个代理（例如，人类）中的偏见和错误进行补偿，但这种补偿应该经过慎重发展。我们提供了一个理论框架，通过综合博弈论和强化学习原理演示了来自代理的连续学习动态的欺骗性结果的自然出现。我们提供了涉及马尔可夫决策过程（MDP）学习相互作用的模拟结果。然后，这项工作为我们在动态和复杂的决策环境中对 AI 代理应对其他代理的偏见和行为的条件进行了道德分析提供了基础。总的来说，我们的方法涉及了人类战略欺骗的微妙角色，并对以前的假设提出了挑战，即其有害的影响。我们断言，对他人偏见的补偿可以增强协调和道德一致性：当人工智能系统在道德管理下进行战略欺骗时，可以积极塑造人工智能与人类之间的互动。

    Apr, 2024

  • 在线贝叶斯适应下的次优混合人机团队合作

    研究通过计算建模和优化技术，提升人工智能与人类队伍的协同性能，其中人类和机器智能代理由于环境知识不完整而发挥亚最优能力，并采用在线贝叶斯方法推断人们愿意接受机器的协助，实验结果显示协作方式与团队性能、用户信任和对机器的好感度存在显著关联。

    Mar, 2024

  • 现实世界复杂环境中的人工智能协作与强化学习

    在复杂的模拟环境中，研究表明人工智能与人类的合作胜过仅有人类或仅有人工智能代理的情况，并开发出了一种用户界面，使人类有效地协助人工智能代理。

    Dec, 2023