机器人操作中学习实际密集物体描述的模拟到真实转换
本文提出一种基于无监督学习的密集物体描述学习方法:Dense Object Nets,可用于视觉理解和操作,适用于针对刚性和非刚性物体的各种操作任务,并能够为多个物体类别提供通用描述。
Jun, 2018
提出了一种机器人感知的模拟到现实(sim-to-real transfer)方法,使用单个多头神经网络将模拟立体数据作为输入,输出模拟对象分割掩码、3D 定向边界框、对象关键点和视差等,通过学习过的立体子网络进行预测。该方法在机器人对未知对象的 2D 检测、未知物体检测和可变形物体关键点检测方面表现出色,能够高效且准确地抓取对象,甚至包括透明对象等难处理的物品。
Jun, 2021
介绍了一种通过同时发现、跟踪、重构对象及预测其动态来捕获三个关键对象属性的三维动态场景表示方法 DSR,基于此提出了 DS 核网络 DSR-Net 模型,在建立和优化 DSR 模型的过程中逐渐聚合视觉观测,并在仿真和实际数据上实现了 3D 场景动力学建模的最新性能,结合模型预测控制,也为下游机器人操作任务如平面推动提供了准确规划的能力。
Nov, 2020
通过使用合成数据,我们提出了一种用于单个 RGB 图像的已知物体 6-DoF 姿态估计的深度神经网络训练方法,成功地跨越了所谓的现实间隙,并通过机器人进行了实时物体姿态估计,取得了与基于真实数据的深度神经网络相当的表现。
Sep, 2018
研究使用 DDODs 学习点对对应来操作可变形物体,并使用可读性和可迁移性的几何策略来控制机器人,成功解决了物理模型不够准确以及机器人长时间训练和泛化能力不足的问题。
Mar, 2020
本文提出 DensePhysNet 对于机器人物体操纵的物理表示的学习方法,通过动态交互序列和深度预测模型学习密集的像素表示,可以直接解码物理物体属性,并在下游任务中实现更精确和更有效的操纵。
Jun, 2019
为了解决巨大的数据缺口和评估方法的挑战,本研究提出了一种模拟增强基准评估框架,以有效地训练和评估深度卷积神经网络探测器对居民空间物体的探测,其中模拟数据和图像分辨率的量是评估探测方法的高准确性和有效性的两个关键因素。
Apr, 2023
该论文通过领域适应问题将 RGB-D 抓握检测的问题转变为 sim-to-real 问题,并提出了一种全局到局部的方法来解决 RGB 和深度数据之间的差距以及多模态特征对齐的不足。在大量实验中,该方法显著减小了领域转移,并获得了令人满意的结果,证明了其有效性。
Mar, 2024
通过物理模拟和生成大规模的合成数据集,为高噪声物体的深度恢复提供了解决方案,并通过提出的 SwindDRNet 模型进行了实现。在使用所提供的真实世界数据集进行训练后,SwinDRNet 可以在实时速度下无缝地推广到其他真实深度数据集,并在深度还原方面胜过竞争对手的方法。
Aug, 2022
本文提出了一种以物体为中心的检测和描述方法,结合 sim2real 对比学习机制,以及不确定性,完善像素级特征描述,实现物体级别匹配和在聚类环境下的位姿估计,同时得到了良好的推广性能和 6D 姿态估计精度。
Feb, 2022