KDDSep, 2023

人工智能协作代理之间的委托优化

PDF
TL;DR在人工智能或自主智能体与人类组成的混合团队中，通过观察团队表现，我们的框架提供了一个经理模型，用于准确识别何时授权团队成员执行动作，而不限制代理机器人的环境模型，结果显示经理模型在不同环境表示下的代理团队中取得了显著的优势。
发现论文，激发创造
  • 优化协作人工智能混合团队中的委托

    人类和自主系统作为混合团队操作时，通过引入 AI 经理（通过强化学习学习团队的行为模型），在最大程度提高团队的综合性能的同时，最大限度减少 AI 经理介入的频率。

    Feb, 2024

  • 优化风险厌恶的人工智能人类混合团队

    通过使用一种标准的强化学习方案以及经理人的学习，我们提出了一种能够改善混合团队（即人类与人工智能系统共同工作的团队）性能的方法，并展示了这个经理人在多个格子环境下的最优表现。

    Mar, 2024

  • 人工智能与人类混合系统中通过委派来弥补感知失败的方法

    在考虑到人工智能的自主行动和增强人类活动的情况下，本文从人工智能和人类哪一方出现失误的因素（例如感知）入手，研究了人工智能辅助的情况下如何做出正确的决策，利用强化学习模型提高机器智能，从而提高团队绩效。

    Mar, 2023

  • 人工智能协作：AI 委派对人类任务执行和满意度的影响

    在一项 196 名参与者的实验研究中，我们发现，无论人类是否意识到辅助作业的人工智能模型，通过代理任务来协同完成工作可以提高任务的表现和满意度，同时提高自我效能感，这为 AI 担负更多的管理责任是人 - AI 协作的有效形式提供了初步证据。

    Mar, 2023

  • 一种错误易发人工智能和人类代理之间的委派认知框架

    研究人工智能系统和人类在同一环境下应怎样理解和相应对方行为，通过认知模型预测双方行为并通过中介控制实现目标的达成。

    Apr, 2022

  • AI 所能做什麼并不重要，重要的是 AI 應該做什麼：走向任務委派的框架

    人们更青睐于人机交互的 “机器协助” 模式，而不是完全的人工智能自动控制模式。其中，信任是与人类最佳人机委派偏好相关性最高的因素。

    Feb, 2019

  • 人机协作中语境信息对人类委托行为的影响

    通过提供上下文信息，研究人员发现可以显著提高人工智能团队和人类之间的协作性，同时也改变了人们对于委派任务的行为方式，为设计更有效的协作系统提供了可行的见解。

    Jan, 2024

  • 委派博弈中的合作与控制

    本文中，我们正式分析了代理人协作中的控制问题、合作问题、对齐问题和能力问题，以及这些问题对委托人利益的影响，并展示了如何通过有限观察来估计这些指标，并为设计更协调和合作的 AI 系统提供帮助。

    Feb, 2024

  • 模拟人工智能团队决策

    研究表明，当涉及到风险元素和评估人类和 AI 代理能力的探索利用过程时，人工智能和人类在小组决策方面具有互补技能。本文面向一组带有缺陷的 AI 代理人，向人类团队提交一系列智力问题，以评估团队成员和可用 AI 代理人的相对专业知识，评估不同行动的风险并通过达成共识来最大化整体回报，并提出了人工智能 - 人类团队决策的模型。研究验证了在不确定情况下的人工智能团队和人类行为预测中的前景理论、影响动态和贝叶斯学习的社会认知构建的价值。

    Jan, 2022

  • 通过有条件委托的方式，实现人工智能与人类的协同合作：内容审核案例研究

    该研究论文探讨了如何通过条件委托来实现人工智能和人类的有效合作，通过进行内容审查等测试实验表明有该方法有提高模型性能的潜力，并研究了人工智能解释等因素对该方法的影响。

    Apr, 2022