Oct, 2019

学习关于人类的知识对于人工智能协作的效用

PDF
TL;DR研究表明，当自主算法如自我博弈和基于群体的训练算法用于训练智能体时，智能体往往只能与自己合作，而不能与人类合作。本文在一个类似于烹饪过程的环境中设计了几个智能体，以展示他们在与人类协作方面的表现，并探讨了更好协作的设计方法。
coordination with humansself-playpopulation-based trainingagent's performancehuman-aware planner
发现论文，激发创造
  • 无需人类数据的人机协作

    本文探究如何培训出更好地与人类合作的机器人，提出了一种名为 Fictitious Co-Play 的方法，通过与自己过去的训练成果和自己对战来训练代理人合作，实证实验显示在与新型代理人和人类伙伴（比如二人协作烹饪模拟器）合作时，使用 FCP 方法产生显著更高的学习效果与人类喜好。

    Oct, 2021

  • 使用动作特征学习与人类协同工作

    探究网络结构对学习算法利用语义关系的倾向性，发现基于注意力机制构建的网络结构在零样本协调任务中具有更好的归纳偏好，并经过精细的评估和场景分析，证明了这种策略是可解释的， 并且这样的智能体在没有训练任何人类数据的情况下就能够与人类协调一致。

    Jan, 2022

  • 通过人类规正化搜索和学习，实现人类和人工智能的协同

    利用针对人类的数据规范化搜索方法及行为克隆技术，开发了一种三步算法来在不完全可观测的完全合作环境中与真人协作，该算法在 Hanabi 基准测试中表现出强大的协调性。

    Oct, 2022

  • 基于预备性基于语言约定的高效人工智能协作

    使用大型语言模型开发协同规约，能够有效引导人类和人工智能之间的协调；通过将问题分解、多个新会话和人类反馈等策略应用于规约制定问题，可以获得更高效的协调规约；在与真实人类协同时，该方法与人类偏好更加一致，性能平均提高了 15%。

    Nov, 2023

  • PECAN: 利用政策集成实现上下文感知的零 - shot 人工智能协同

    该论文提出了零样本人工智能与人类协作的新方法，使用策略组合方法以提高参与者的多样性，以及上下文感知方法使自我代理能够分析和识别合作伙伴的潜在策略原语以便其可以相应地进行不同的行为。结果表明，该方法在所有场景中实现了最先进的性能。

    Jan, 2023

  • 解决协作不兼容问题实现零射击的人工智能协调

    通过采用博弈论和图论等技术，本文提出了 COLE 框架，用于解决协作不匹配问题，并在在线 Overcooked 人工智能实验平台中验证其有效性，结果表明其优于现有方法。

    Jun, 2023

  • 实际人机协作强化学习

    本研究通过一个协同迷宫游戏设计，用深度强化学习技术实现了人机共同协作。研究结果证明人机共同协作相互影响，在时间的推进下不断适应并建立起相应策略，这为人机智能的协作提供了可行的方案。

    Mar, 2020

  • 面向人工智能协同的语言指导强化学习

    在缺乏高质量人类行为数据的情况下，使用预训练的大型语言模型生成人类语言指令的先验策略并规范化强化学习目标可以帮助人工智能代理与人类协作，并在多智能体强化学习问题中实现人工智能代理与人类偏好一致的均衡解。案例中验证了该框架的有效性。

    Apr, 2023

  • 现实世界复杂环境中的人工智能协作与强化学习

    在复杂的模拟环境中，研究表明人工智能与人类的合作胜过仅有人类或仅有人工智能代理的情况，并开发出了一种用户界面，使人类有效地协助人工智能代理。

    Dec, 2023

  • 学习与社会理性个体群体合作的复杂度

    人工智能代理在现实世界中的部署需要与人类（以及其他异构的 AI 代理）可靠地合作。为了提供成功合作的形式化保证，我们必须对合作伙伴代理的行为做一些合理的假设。这项工作研究了在一个有限重复的、两个玩家的一般化总和矩阵游戏中与一个代理人群合作的问题，通过个体理性学习者的假设和在某个 Pareto 有效均衡策略下高概率实现至少与该策略相同效用，我们证明了这些假设本身不足以保证与目标人群成员的零 - shot 合作。因此，我们考虑了通过先前观察到的人群成员相互作用来学习与这样的人群合作的策略问题，并给出了学习有效合作策略所需样本数量的上限和下限。最重要的是，我们证明了这些界限可以比通过一种 “天真” 的问题简化到模仿学习中产生的界限更强。

    Jun, 2024