ECCVOct, 2018

面向任务的手部运动重新定位用于熟练操控模仿

PDF
TL;DR使用手势姿态估计器采集到的人手信息，结合逆运动学和 PSO 算法解决手姿态到 29 个自由度手模型的映射问题，以增加进行虚拟物体操作任务成功率，进而使用全部操作过程数据通过生成对抗性模仿学习训练出可用于虚拟现实中的抓握策略网络。
hand actionsobject manipulationhand pose estimatorretargetinggenerative adversarial imitation learning
发现论文，激发创造
  • 基于物理模拟的残余强化学习和估算手部姿态的熟练性操作

    该研究提出了一种基于深度传感器和一种先进的 3D 手姿估计器的模型，使用模型自由的混合强化学习和模仿学习方法训练代理来实现虚拟环境中手 - 物体交互，通过引入物理约束，使得机器人能够完成更高效的手 - 物体操作。

    Aug, 2020

  • DexMV：从人类视频中进行巧手操作的模仿学习

    本文提出了一种名为 DexMV（Dexterous Manipulation from Videos）的平台和管道，用于机器人的模仿学习，从而解决复杂的手部操作任务，包括计算机视觉、逆强化学习、多传感器模式等方面。

    Aug, 2021

  • 从人类示范中学习软体机器手的熟练操作

    本文介绍了一种基于物体为中心示范实现的，用于训练软机械手进行熟练操作的方法，该方法使用增强学习技术，提出了一种新的算法，允许我们混合和选择最可行的示范来学习在硬件上模仿。最后，我们将这种方法应用于 RBO Hand 2 上，并获得了开 / 关阀门，滑珠和抓取等任务的良好表现。

    Mar, 2016

  • 全身手物互动合成的真实物理模拟

    我们提出了一种基于物理的方法来合成全身手物交互。通过通过一个层次化框架，并结合强化学习和物理仿真，我们首先在解耦环境中学习身体和手部运动的技能先验。然后，我们使用一个新颖的奖励函数训练一个高层策略，以在预训练的潜在空间中控制手物交互。我们的方法成功完成了从接近物体到抓取和后续操纵的完整交互任务，并展示出比基于运动学的基线方法更具物理合理性的动作。

    Sep, 2023

  • 从人类抓握机会学习具有普适性的熟练操作

    本研究提出了使用大规模演示学习熟练操作多指手来处理机器人学中最具挑战性的问题。 主要采用人类抓握可行性模型生成 3D 物体演示，以实现策略的泛化。同时，本研究使用了新颖的模仿学习目标，以及几何表示学习目标，通过在仿真系统中重新定位多样的对象以证明本方法的有效性。

    Apr, 2022

  • 学习灵巧的手中操纵

    通过强化学习，我们使用模拟环境训练了一种可以使机器人手指进行多指协调、操纵物体并控制重力的新型算法，并且证明该算法可以成功地应用在实物机器人中，为机器人控制领域提供了新的解决方案。

    Aug, 2018

  • Dexterous Imitation Made Easy: 一种基于学习的框架用于高效的器械操作

    提出了一种新的基于模仿学习的框架（DIME），借助单个 RGB 相机观察人类运营，并在多指控制策略上进行了培训，以解决机械手复杂操纵任务的挑战。

    Mar, 2022

  • DeXtreme: 从模拟到现实的敏捷手持操作转移

    本文通过深度强化学习模型，针对转移到真实场景中遇到的困难，提出了学习可以在人形机器人手上进行灵巧操作的策略和一个稳健的姿态估计器。通过在仿真环境中训练的策略，实现了在不同环境下的适应性，并得出了比最佳视觉策略更好的结果，同时在多种硬件和仿真设置中进行了模拟实现，为后续研究提供了方便、低成本的机器人手和摄像机。

    Oct, 2022

  • 深度强化学习中的机械臂控制和抓取行为模仿

    本研究提出了一种采用 3D 人体姿态估计和强化学习相结合的新型运动模仿模型，通过将运动模仿转化为强化学习中的关节角度预测问题，从而极大减少了对大量训练数据的依赖，使得模型能够从仅有几秒钟的视频中学习模仿策略，并展现出强大的泛化能力。该项目可轻松地将人的手臂运动模仿到机械手臂上，表现出卓越的性能和稳健的迁移能力。

    May, 2024

  • 视觉敏捷性：来自深度图像的手内灵巧操纵

    该论文介绍了一个基于强化学习的通用物体重新定位控制器，使用廉价深度相机内置单个传感器可以动态地实时重新定位复杂物体，具有在真实世界中重现的能力，且硬件成本低廉，可以使未来的技术民主化。

    Nov, 2022