Dec, 2023

基于强化学习的闭环多角度视觉伺服方法

PDF
TL;DR本文研究了如何在具有自碰撞、奇异问题等机器人特定约束条件下解决多视角视觉伺服问题，并提出了一种基于学习的多视角视觉伺服框架，通过强化学习从视觉状态的潜在空间表示中迭代估计机器人动作。通过 Gazebo 仿真环境的实验验证，显示该方法能够成功学习到给定不同视角下初始图像的最优控制策略，且平均成功率达到 97.0%，优于直接视觉伺服算法。
发现论文，激发创造
  • 通过循环控制实现 Sim2Real 视角不变的视觉伺服

    该研究使用深度递归控制器训练机器人完成视觉伺服技能并解决了在遇到视觉扭曲时的模糊性问题。研究者使用模拟数据和强化学习目标进行了训练，证明了该模型可在真实的机器人手臂上操作。

    Dec, 2017

  • 视觉先见：基于模型的深度强化学习在基于视觉的机器人控制中的应用

    本文提出了一种实用于实际机器人任务 -- 如机器人操作 -- 的深度强化学习算法，并在无人监督的情况下使用自我监督的基于模型的方法来训练预测模型，通过选择指定像素、目标图像或图像分类器作为目标设定方法，探索实现前所未见的任务和物体的普遍泛化。

    Dec, 2018

  • 深度特征与拟合 Q 迭代的视觉伺服学习

    本文基于学习的视觉特征、学习的预测动态模型和强化学习相结合的方法，研究了视觉伺服机制的学习。通过在学习到的视觉特征空间内，代替图像像素和手动设计的关键点，我们演示了该方法可以在样本效率方面获得两个数量级以上的提高，并在复杂的合成汽车跟踪基准测试中表现出了显著的改进。

    Mar, 2017

  • 未来的重点：基于模型的强化学习中的自监督对应

    本文提出基于自监督视觉对应学习的模型预测方法，证明了这种方法能够在视觉学习的强化学习中实现明显的性能提升，并通过模拟实验和硬件实验的验证显示出在一些情境下，这种预测模型具有更好的泛化性能。

    Sep, 2020

  • 针对多样化视觉动作技能的强化学习和模仿学习

    该研究提出了一种模型无关的深度强化学习方法，利用少量的演示数据来协助强化学习代理。作者将该方法应用于机器人操作任务并训练了端到端的视觉 - 动力学策略，直接从 RGB 相机输入到关节速度。实验结果表明，与仅使用强化学习或模仿学习训练代理的结果相比，作者的强化和模仿代理取得了显著的性能提高。此外，这些训练有素的策略在模拟到现实世界的零样本情况下也能获得初步的成功。

    Feb, 2018

  • 面向基于视觉的深度强化学习的机器人运动控制

    本文介绍了一种基于机器学习的系统，用于仅基于视觉感知控制机器人操作器。首次展示了只从原始像素图像学习机器人控制器的能力，而不需要对配置有任何先前知识。我们建立在最近深度强化学习的成功基础之上，并开发出一种利用外部视觉观察学习三关节机器人操作器目标到达的系统。经过在仿真中的训练后，Deep Q 网络（DQN）被证明能够执行目标到达。将网络转移到真实硬件和真实观察的朴素方法失败了，但实验证明在用合成图像代替相机图像时，网络可以正常工作。

    Nov, 2015

  • 通过深度强化学习从自我中心视觉中学习机器人足球

    我们运用多智能体深度强化学习（RL）通过自我中心的 RGB 视觉训练端到端的机器人足球策略，解决了现实世界机器人领域中的许多挑战，包括主动感知、灵活的全身控制和长时间跨度的计划等。该论文是首次展示了通过将原始像素观测映射到关节级动作的端到端多智能体机器人足球的训练，并能够在真实世界中部署。

    May, 2024

  • ViSaRL：人眼显著性引导的视觉强化学习

    用基于视觉显著性引导的强化学习（ViSaRL）来训练机器人从高维像素输入中执行复杂的控制任务，通过优化视觉表征，ViSaRL 显著提高了强化学习代理在不同任务上的成功率、样本效率和泛化能力。

    Mar, 2024

  • 深度视觉预见性规划机器人动作

    本论文提出一种基于无标注训练数据的方法，结合深度动作条件视频预测模型和模型预测控制，使真实机器人能够进行非抓取操作，比如推动物体，并且可以处理训练过程中没有出现过的新物体。

    Oct, 2016

  • 结构化环境下软柔性臂位姿控制的视觉伺服

    本文提出了一种基于卷积神经网络的方法，针对软臂在结构化环境下实现视觉伺服平稳可靠的 3D 定位，通过神经网络对所需的位置控制器进行预测并使用比例控制法减少误差。

    Feb, 2022