ACLOct, 2022

行为克隆变压器是神经符号推理器

PDF
TL;DR本研究探索了将符号模块的信息注入交互式智能体的技术，同时测试了这些智能体在文本游戏中的推理能力，结果表明将符号模块的操作注入到行动空间中可以提高代理程序在涉及算术、导航、排序和常识推理的四个文本游戏基准上的表现。此技术易于扩展到新的智能体，环境和符号模块。
interactive agentssymbolic modulestext gamesmulti-step reasoning abilitiesaction injection
发现论文，激发创造
  • 自我监督行为复制的变压器是文本游戏的路径爬虫

    我们介绍了一种自监督行为克隆变压器，用于文本游戏，这是虚拟环境中的多步推理的具有挑战性的基准。通过自动生成训练数据的方式，我们的方法能够在三个基准文本游戏中实现约 90％的监督系统性能。

    Dec, 2023

  • 神经符号变压器用于多智体通信

    研究如何在多智能体规划问题中推断通信结构，以最小化通信量，并提出了一种结合程序化通信策略和变压器策略网络的神经符号变压器算法，能够生成低程度通信图并保持接近最优性能。

    Jan, 2021

  • 一次即视视觉模仿的变形金刚

    本文介绍了一种使用神经网络和 Transformer 注意机制的方法，通过向机器人展示上下文视频来缩小机器人学习中的领域差距，并实现了对单次操作任务的 2 倍成功率提升。

    Nov, 2020

  • 多游戏决策转换器

    本研究探讨了采用 transformer-based model 方法训练的多用途强化学习代理程序在 Atari 游戏中的表现，发现使用 Multi-Game Decision Transformer 模型的性能和可伸缩性最佳，并提供预训练模型和代码以鼓励该方向的进一步研究。

    May, 2022

  • 一份 ACT 戏剧表演：单一演示行为克隆与行动分块变压器

    使用行为克隆从单个人类示范中学习任务，通过使用线性变换增强单个示范来生成一系列初始条件广泛变化的轨迹，从而成功训练行为克隆智能体完成三个方块操作任务，并通过在推断期间将行动预测的标准差纳入集成方法中，使方法对环境中的意外变化更加稳健，从而实现了显著的性能提升。

    Sep, 2023

  • 交互式机器人操作的混合组合推理方法

    本文介绍了一种神经符号 (混合) 组合推理模型，以将语言引导的视觉推理与机器人操作相结合。该模型通过使用共享的原始技能库以任务非特定的方式处理所有情况。通过语言解析器将输入查询映射为由这些原语组成的可执行程序取决于上下文。结果表明，该方法达到了非常高的准确性，同时可以进行少量的视觉微调，从而实现了真实场景的可转移性。

    Oct, 2022

  • 一个关于训练于符号多步推理任务的 Transformer 的机制分析

    通过对合成推理任务进行综合机械分析，我们鉴定了一组可解释的机制，这个模型用来解决任务，并使用相关和因果证据验证了我们的发现。我们的结果表明，它实现了一组深度有限的并行循环机制，并将中间结果存储在选择的令牌位置，我们期望我们在合成环境中鉴定的这些模式可以为理解变压器的更广泛操作原理提供有价值的见解。

    Feb, 2024

  • JARVIS: 一种面向对话体现代理的神经符号常识推理框架

    通过将大语言模型与视觉信息相结合，建立了一种神经符号共同思考推理框架 JARVIS，用于构建可解释且高效的对话体载体，结果达到了现有方法中最优结果。

    Aug, 2022

  • Abstractors: 符号消息传递和关系推理的 Transformer 模块

    该论文提出了一个框架，它将关系学习转化为变形器，借助关系交叉注意机制实现感觉状态和抽象状态之间的绑定。

    Apr, 2023

  • 行为变换器：一石多鸟地克隆 $k$ 种模式

    本文介绍了一种名为 BeT 的新技术，该技术利用多模式建模，并结合动作离散化技术和多任务操作校正，在离线强化学习和行为克隆方面表现出色。我们在各种机器人操作和自驾行为数据集上进行了实验评估，并显示出 BeT 显着改善了解决示范任务的先前最先进工作，同时捕获了预先收集的数据集中存在的主要模式。

    Jun, 2022