AAAIJul, 2022

推断和传达意图：超越数值奖励到逻辑意图

PDF
TL;DR这篇研究论文探讨了共享意向性在开发具有合作、自我反思、思考和推理能力的有意识的 AI 代理中的关键作用，并将共享意向性的推断作为具有逻辑回报说明的逆强化学习问题来表述。研究表明了该方法如何从演示中推断出任务描述，并将其扩展到主动传达意向性，最后在一个简单的网格世界示例中展示了方法的有效性。
shared intentionalityconscious ai agentsinverse reinforcement learninglogical reward specificationstask descriptions
发现论文，激发创造
  • 共享意向性的计算机制，以及关于理性和意识的推测

    本研究利用 David Marr 的信息处理模型，提出了计算机代理间实现共享意图的基本机制，并探讨了这些机制如何应用于现代基于人工智能的机器人中。另外，作者还通过推测性的思考实验，将这些机制扩展到了人类，提出了 “共享意图第一理论”（SIFT）用以解释人类的理性和意识现象。

    Jun, 2023

  • 以心理理论为基础的多智能体强化学习的内在动机理论

    该论文介绍了利用深度网络来模拟人类心智状态，并在多智能体环境中进行信念预测和强化学习的初步实验结果。

    Jul, 2023

  • 互动学习和辅助学习

    本文通过引入多智能体训练框架，提出交互式学习作为一种替代奖励或演示驱动学习的方法，并通过一系列实验展示了信息共享、信息查询和问答等交互学习行为的出现，最终发现该方法可以使得自主智能体在不需要显式演示或奖励函数的情况下，与人类合作执行任务并获得更好表现的能力。

    Jun, 2019

  • 使机器人能够交流它们的目标

    通过机器模拟对人类推导目标功能的学习过程，选择对人最具信息量的行为，以准确预测机器人在新情境下的行为，为此我们提出了两种候选的近似推断模型，并在自动驾驶领域中进行用户研究，结果表明，某些近似推断模型可以使机器人生成更好的行为示例，从而更好地使用户预测其行为，但我们还需要进一步研究人类从机器人行为示例中的推导过程。

    Feb, 2017

  • 代理人行动的原因：意图和目标

    通过在结构因果影响模型中引入意图的形式定义，我们展示了这个定义捕捉到意图的直观概念，并满足了过去工作设定的期望。此外，我们还展示了我们的定义如何与过去的概念相联系，包括实际因果关系和安全 AI 代理文献中的核心概念 —— 工具性目标。最后，我们演示了如何从行为中推断强化学习代理和语言模型的意图。

    Feb, 2024

  • 从行动和指令推断沟通代理的目标

    研究了协作团队之间的自然语言指令传递在多模态贝叶斯逆向规划中的应用，发现使用语言指令可以更快、更准确地推断出团队目标，强调了语言沟通对于协作任务的重要性。

    Jun, 2023

  • 推理反事实以改善人类逆强化学习

    为了让人类能够很好地与机器人协作，提出了一种包含逆强化学习和演示方法，在选择展示时考虑了人类对机器人决策的预期，使用了一种新的测试难度测量方法，并发现这种方法在易于测试的情况下降低了人类的性能，但在难于测试的情况下增加了性能。

    Mar, 2022

  • 基于观测学习的因果机器人通讯

    介绍了如何应用心理学的学习行为洞见为机器人意图交流提供洞见，并通过从一个动作序列中选择性地解释因果动作的方式，使机器人更有效地传达其目的。

    Mar, 2022

  • 目标推断改进人机协作的客观和感知性能

    本文评估了一种人机协作方案，该方案结合了任务分配和动作规划推理的层次，使用贝叶斯推理预测他的人类伴侣的下一个目标，并实时重新规划自己的行动，实现了预期的适应性，取得了良好的人 - 机表现优化。

    Feb, 2018

  • 具备自然语言目标的逆强化学习

    本文提出了一种新颖的对抗式逆强化学习算法，使用条件化语言政策和奖励函数，以及使用变分目标生成器提高学习策略和奖励函数的泛化性，从而使自然语言变得可用于指导智能体任务的目标， 获得了非常好的性能表现。

    Aug, 2020