AAAIJun, 2023

通过指令预测提高长期模仿能力

PDF
TL;DR本研究探讨在长时间跨度规划中，利用语言指令作为辅助监督的方法，使用 transformer-based 的模型，通过 instruction modeling 不断改善 agent 在 BabyAI 和 Crafter 等基准环境中的规划表现。
long-horizon planninglearning-based agentslanguage supervisiontransformer-based modelsinstruction modeling
发现论文，激发创造
  • 使用指令损失进行指令调整

    通过实验证明，Instruction Modelling 能够提高语言模型的性能，特别是在指令调整数据集不充足、指令长度与输出长度不匹配以及减少过拟合情况下，对低资源场景中的语言模型进行指令调整提供了实用指南。

    May, 2024

  • 新路径：使用合成指令和模仿学习扩展视觉语言导航

    利用 360 度全景数据生成的合成语音引导大型模拟数据集，使用模仿学习的简单 Transformer 模型，本文介绍了一种新的方式 —— 合成指令及大规模模仿学习来提高代理程序。

    Oct, 2022

  • 指令归纳：从少量样本到自然语言任务描述

    该研究论文证明使用 in-context learning 可让大型语言模型显式推断潜在任务，通过自然语言生成指令，InstructGPT 的表现达到了人类的 65.7％，建议指令感应可能是一种学习范例。

    May, 2022

  • 语言条件下的机器人模仿学习对非结构化数据的影响因素

    本研究旨在从自然语言文本中获取信息，进而训练机器人进行各种日常生活任务。我们通过探索一系列最重要的问题，来提出一种有效的机器人控制学习方法，该方法结合了分层控制、多模态变换编码器、离散潜在计划和自监督对比损失。同时，我们使用所提出的方法，成功地在机器人 CALVIN 基准测试中，超越了现有研究成果。

    Apr, 2022

  • 通过生成和遵循自然语言指令进行分层决策

    使用自然语言隐式指令作为复杂动作的表达和组合，而不是直接选择微操作，本文基于 76,000 个自然语言指令和操作的数据集在实时策略游戏环境中训练模型，结果表明使用自然语言作为潜变量的模型在动作表达中的有效性显著优于直接模仿人类动作的模型，并且语言的组合结构对其有效性具有关键作用。同时提供了代码、模型和数据。

    Jun, 2019

  • 什么使得指导学习变得困难？一个人工环境的研究和新挑战

    使用 T5-based text2text transformer 构建了一个 Hard RegSet dataset，用于研究 instruction learning，该 transformer 学习从指示中执行任务的能力存在挑战，其中大型正则表达式和需要跟踪更长的先前步骤的执行更加困难。

    Apr, 2022

  • 指令采集：大型语言模型高质量指令数据选取

    本文提出了 InstructMining 用于评估指令遵循数据的质量，并使用该方法选择高质量数据进行 Fei 调。研究结果表明，使用 InstructMining 所选择的数据集表现出更优的性能。

    Jul, 2023

  • 从复杂到简单：增强大型语言模型的多约束复合指令跟随能力

    使用包含多个约束条件的指令来训练大型语言模型，能提高其理解复杂指令，特别是对于低复杂性水平的指令，甚至可以推广到超出领域约束的组合，同时提出了获取和利用有效训练数据的方法，并通过广泛实验验证了方法在总体性能、训练效率和泛化能力方面的有效性。

    Apr, 2024

  • 基于基础模型的复杂机器人指令可验证跟随

    使机器人能够遵循复杂的自然语言指令是一个重要而具有挑战性的问题。我们提出了一种名为 LIMP 的方法，利用基础模型和时间逻辑生成以指令为条件的语义地图，使机器人能够验实地遵循具有开放词汇和复杂时空约束的丰富和长期的指令，并构建了一种可解释的指令表示，展示了 LIMP 在三个真实环境中的应用，并演示了在 35 个复杂时空指令中广泛适用且易于部署到新颖无结构领域的能力。

    Feb, 2024

  • 利用双层可学习大语言模型规划增强长期推荐

    利用大型语言模型的规划能力，提出一种可学习的长期推荐规划框架，结合强化学习和层次学习。实验证实该框架在学习长期推荐规划方面具有优势。

    Feb, 2024