AAAIOct, 2023

推断人类团队的错误信念的概率建模

PDF
TL;DR通过在 Minecraft 环境中模拟一个由三个玩家组成的团队，在人工智能代理商推理人类信念的过程中，我们开发了一种概率图模型（PGM）。我们的实验表明，玩家的行为受到游戏中视野内所见的影响，以及他们对标记意义的信念和团队决定采用哪个意义的信念。与人类观察者的推理相比，我们的 AI 代理商 ToMCAT 对于推断虚假信念具有显著优势。
发现论文，激发创造
  • 利用心理理论提高多智能体协作

    研究使用贝叶斯心理理论，通过比较具有 ToM 代理和非 ToM 代理的合作玩家的表现，证明 ToM 代理的存在可以显著提高所有类型合作伙伴（包括人类玩家）的合作效率，对于设计更好的合作代理有重要的意义。

    Jul, 2020

  • 使用多个时间和空间分辨率的特征实时预测人类行为

    本文研究如何让人工智能在多个时间和空间分辨率上有效地对人类队友进行建模，并针对在 Minecraft 环境中执行任务的实验结果，展示了一种利用高低分辨率空间和时间信息提高人类行为预测准确性的方法。

    Nov, 2022

  • MindCraft：基于心智模型的协作任务情境对话建模

    通过一个更佳的、基于理性的智能体在人类世界的适当整合，能够建立一个在人际合作中可以进行有效协作的方法，此研究提出了在 Minecraft 的虚拟场景下，对人类合作任务探索想象过程的细粒度数据集，并借此数据展示了几个有关于想象过程的任务的计算模型

    Sep, 2021

  • 人机团队合作中的适应和沟通：处理代理中关于计划的信念差异

    基于认识逻辑的合作代理研究中探讨了在没有共享模型的情况下，代理能够通过动态规划行动或交流来解决合作中的不一致。研究提出了一种在条件信念逻辑基础上扩展的形式化表示方法，用于显式地表示代理对可行计划和执行状态的嵌套信念，同时提供基于蒙特卡洛树搜索的在线执行算法，包括用于解释计划可行性、宣布意图和提问的通信行动，并通过评估算法的成功率和可扩展性证明，我们的代理能够更好地适应没有共享模型的团队合作。

    Jul, 2023

  • 心智理论：逆向规划探寻群体行为

    本文提出了一个基于 Composable Team Hierarchies 的生成式模型，通过贝叶斯推理来推断潜在的关系并预测多个智能体在空间随机游戏中的行为，该算法可以迅速恢复智能体之间如何相关的基本模型，算法的推理模式与人类判断非常相似。

    Jan, 2019

  • 捕获人类对人工智能的心理模型：一种项目反应理论方法

    本研究提出了一种基于项目反应理论的框架来模拟人们对人工智能队友的感知，并使用实验数据测试研究问题，结果表明人们对人工智能代理的性能期望显著高于其他人，并具有更小的问题类型差异。

    May, 2023

  • 在合作与拜占庭式分散团队中使用互信息进行迭代推理

    本文提出 InfoPG 算法，以最大化相互信息来优化多智能体协作决策，有效地在多个复杂任务中提高了学习效率和总奖励。

    Jan, 2022

  • 基于逻辑先验的生成建模方法推断人类团队会议中的机器人任务计划

    我们提出了一种算法，该算法利用概率生成建模与逻辑计划验证相结合，从人类团队的规划对话的处理形式中推断出最终计划。我们成功地通过人体实验验证了该算法，展示了基于 PR2 机器人的人 - 机协作任务的规划和执行。

    Jun, 2013

  • 基于心智推理的多智能体逆强化学习

    本文探讨了在协作场景中人们如何相互交互尤其是在个体了解队友很少的情况下，通过多智能体逆强化学习（MIRL）来推断每个个体行为背后的奖励函数。针对这个问题，我们提出一个新颖的 MIRL-ToM 模型，结合了理论思维（Theory of Mind）和最大熵 IRL，成功地恢复了用于有知晓或无知晓队友互动的奖励。

    Feb, 2023

  • 合作人工智能的广义信念

    本研究提出了一种基于信念空间的策略学习模型，可以在测试时间解码和适应新颖的规约，从而显著提高各种策略池中的特定反应的搜索和训练，同时增强智能体规约的可解释性和可解释性。

    Jun, 2022