H-InDex: 手动信息增强在熟练操纵中的视觉强化学习
通过 Holo-Dex 框架,在虚拟现实环境中为机器人提供高保真的手部位姿估计信息,并使用功能学习和非参数模仿算法结合进行培训,以实现教学普适性的提高。
Oct, 2022
我们的研究旨在通过学习一种统一的基于视觉的策略,使多指机械手能够在各种姿势下操纵不同的物体。我们提出了一种新的框架 ViViDex,通过使用强化学习和轨迹引导奖励训练每个视频的基于状态的策略,从而获得视觉自然且物理可行的轨迹,并在不使用任何特权信息的情况下训练出一个统一的视觉策略,该方法通过坐标转换方法显著提升了性能,在三个灵巧操纵任务上展示出了较大的改进。
Apr, 2024
通过强化学习,我们使用模拟环境训练了一种可以使机器人手指进行多指协调、操纵物体并控制重力的新型算法,并且证明该算法可以成功地应用在实物机器人中,为机器人控制领域提供了新的解决方案。
Aug, 2018
在这篇论文中,我们介绍了 RealDex—— 一个捕捉了真实灵巧手部抓握动作的先驱数据集,其中融入了人类行为模式,丰富了多视角和多模态的视觉数据。使用远程操作系统,我们实时无缝地同步人 - 机器手的姿态。这个类似人类运动的集合对于训练灵巧手更自然、更准确地模仿人类动作至关重要。RealDex 在推动人形机器人在现实世界场景中的自动感知、认知和操作方面具有巨大潜力。此外,我们介绍了一种先进的灵巧抓握动作生成框架,通过有效利用多模态的大型语言模型与人类经验相吻合,增强了其在现实世界的应用能力。大量实验证明了我们的方法在 RealDex 和其他公开数据集上的出色性能。完整的数据集和代码将在本文发表后提供。
Feb, 2024
提出了双手灵巧操纵仿真器 Bi-DexHands,可用于机器人学习多种操纵技巧,其中单一代理策略 PPO 可达到人类 48 个月婴儿的操作水平,而多代理策略可进一步帮助掌握需要灵巧双手协作的操作任务,但现有 RL 算法在多任务和少样本学习设置下仍需要更深入的研究。
Jun, 2022
本文提出了 DexVIP,一种从人 - 物体交互中学习灵巧机器人抓取的方法,并在 30 自由度的模拟机器人手上进行了 27 个物体的实验,证明 DexVIP 比现有方法快速且更具效率。
Feb, 2022
本文提出了一种名为 DexMV(Dexterous Manipulation from Videos)的平台和管道,用于机器人的模仿学习,从而解决复杂的手部操作任务,包括计算机视觉、逆强化学习、多传感器模式等方面。
Aug, 2021
该研究提出了一种基于深度传感器和一种先进的 3D 手姿估计器的模型,使用模型自由的混合强化学习和模仿学习方法训练代理来实现虚拟环境中手 - 物体交互,通过引入物理约束,使得机器人能够完成更高效的手 - 物体操作。
Aug, 2020
本文介绍了一种基于物体为中心示范实现的,用于训练软机械手进行熟练操作的方法,该方法使用增强学习技术,提出了一种新的算法,允许我们混合和选择最可行的示范来学习在硬件上模仿。最后,我们将这种方法应用于 RBO Hand 2 上,并获得了开 / 关阀门,滑珠和抓取等任务的良好表现。
Mar, 2016
利用网络视频的人类手部动作行为作为真实世界经验来指导机器人任务,使用人类视频数据集的视觉、动作、物理规律作为机器人行为的先验知识的学习算法 VideoDex,在机器人手臂和灵巧的基于手的系统上进行测试,并在各种操作任务上显示出强大的结果。
Dec, 2022