Feb, 2022

机器人操作中基于深度模仿学习的记忆驱动注视预测

PDF
TL;DR本文提出了一种使用基于 Transformer 的自注意力结构实现眼神预测，以实现具有记忆的机器人操作任务的算法。通过将机器人视觉输入的连续序列作为输入，该算法能够通过使用传统的深度模仿学习方法并结合眼动预测来实现多物体操作任务。实验结果表明，该方法成功地改善了机器人在具有记忆要求的复杂环境中的操作表现。
发现论文，激发创造
  • 基于深度模仿学习的虚拟现实远程操作复杂操纵任务

    本文介绍了如何利用消费级虚拟现实头显和手部追踪硬件来自然地远程操纵机器人执行复杂任务，并说明了如何使用仿真学习来学习从像素到动作的策略映射。实验展示了我们方法在视觉动作技能学习上的有效性。

    Oct, 2017

  • 一次即视视觉模仿的变形金刚

    本文介绍了一种使用神经网络和 Transformer 注意机制的方法，通过向机器人展示上下文视频来缩小机器人学习中的领域差距，并实现了对单次操作任务的 2 倍成功率提升。

    Nov, 2020

  • 通过视觉规划和执行学习机器人操作

    本文提出了一种基于数据驱动的建模方法，利用深度生成模型学习目标定向的物体操作，采用视觉规划和视觉跟踪控制解决目标检测问题。

    May, 2019

  • 视觉先见：基于模型的深度强化学习在基于视觉的机器人控制中的应用

    本文提出了一种实用于实际机器人任务 -- 如机器人操作 -- 的深度强化学习算法，并在无人监督的情况下使用自我监督的基于模型的方法来训练预测模型，通过选择指定像素、目标图像或图像分类器作为目标设定方法，探索实现前所未见的任务和物体的普遍泛化。

    Dec, 2018

  • 面向机器人操作的指导驱动历史感知策略

    本研究提出了一种基于 Transformer 的方法来处理人类语言指令和多视角场景观察，以提高机器人的精准操作，并在 RLBench 基准测试中成功实现 74 项任务，还表现出对未曾见过变化的任务的良好泛化性能。

    Sep, 2022

  • 基于 Transformer 的人类注视行为在视频中的预测模型

    基于眼动追踪数据的视频分析自动化是一个重要的任务。本文提出了一种基于转换器增强学习算法的模拟人类视线行为的新方法，通过观看视频并模拟人类注视行为，该方法能有效地复制人类注视行为并应用于实际任务。

    Apr, 2024

  • Q-attention: 为基于视觉的机器人操作实现有效学习

    利用注意力驱动的机器人操作算法（ARM），结合 Q-attention 代理、姿态代理和控制代理构成的三阶段流水线，能够成功解决目前强化学习在处理机器人操作任务时存在的困难，特别是针对图像输入的情况，对 RLBench 标准任务有显著的提高。

    May, 2021

  • 深度视觉预见性规划机器人动作

    本论文提出一种基于无标注训练数据的方法，结合深度动作条件视频预测模型和模型预测控制，使真实机器人能够进行非抓取操作，比如推动物体，并且可以处理训练过程中没有出现过的新物体。

    Oct, 2016

  • 无需机器人的机器人训练：基于深度模仿学习的主控策略传递

    本文提出了一种新的主控器到机器人 (M2R) 迁移学习系统，通过低成本控制器和基于注视的模仿学习框架及简单的校准方法，使操作者可以自然地感受到力反馈而不需要昂贵的双边系统，进而克服主控器和机器人之间的域差异，使得机器人也能够完成需要力反馈的灵巧操作任务，作者在瓶盖开启任务上进行了验证。

    Feb, 2022

  • 深度强化学习中的机械臂控制和抓取行为模仿

    本研究提出了一种采用 3D 人体姿态估计和强化学习相结合的新型运动模仿模型，通过将运动模仿转化为强化学习中的关节角度预测问题，从而极大减少了对大量训练数据的依赖，使得模型能够从仅有几秒钟的视频中学习模仿策略，并展现出强大的泛化能力。该项目可轻松地将人的手臂运动模仿到机械手臂上，表现出卓越的性能和稳健的迁移能力。

    May, 2024