基于语言指导的动态变化环境中的移动机器人稳健导航
该论文介绍了一种基于自然语言对话的机器人定位与导航任务基准测评RobotSlang,并提出了从对话历史记录中学习的自适应定位与导航。研究结果表明,通过该方法可以训练出可控制实际机器人平台的智能体。
Oct, 2020
使用语言指导下的路径规划,研究机器人领域中的导航方式和交互问题。通过变换不同的机器学习模型,来探索不同的路径预测方法,并发现在navigation metrics上,更具表现力的模型能够帮助机器人找到更优秀、更简单、更快速的路径,而低层动作则能够通过近似最短路径来获取更好的路径规划结果。
Oct, 2021
本文介绍了地图-语言导航任务,引入了基于给定三维语义地图的自然语言指令的路径规划和区分模型(iPPD),并提出了适用于语义地图的新型路径特征编码方案和基于注意力机制的语言驱动鉴别器,相较于单步贪婪决策方法和单步模仿学习方法,在未知环境中具有17%的导航成功率和0.18的路径匹配度的性能提升。
Mar, 2022
LM-Nav是一个基于预训练模型的系统,它可以在大型未注释数据集上进行训练,不需要任何细化或语言注释的机器人数据,通过预先训练的导航模型(ViNG),图像语言关联(CLIP)和语言建模(GPT-3),可以通过自然语言指令在复杂的户外环境中漫游。
Jul, 2022
本研究提出了EPTNav探索实现连续环境下视觉语言导航的方法和框架,该框架着重于生成长距离导航计划和在连续环境中进行避障控制,并利用拓扑地图和指令生成自主导航计划。实验证明该方法的有效性,并在R2R-CE和RxR-CE数据集上分别获得超过10%和20%的改进。
Apr, 2023
在室内、室外甚至未详细规划的环境中,机器人应存在。然而,最近在物体目标导航(OGN)方面的进展主要集中在室内环境中,利用空间和语义线索进行导航,这些线索在室外环境中并不具有普适性。本文介绍了一项新的任务“OUTDOOR”,提出了一种新的机制,使大型语言模型(LLM)能够准确地幻想可能的未来,并提出了一种在这个更复杂领域中推动研究的计算感知成功度量。此外,我们还展示了在模拟无人机和实际四足机器人在户外环境中取得的令人印象深刻的结果。我们的代理机器人不需要预先地图,并且我们的形式化方法优于朴素的基于LLM的方法。
Sep, 2023
通过利用语义知识作为搜索启发式的语言模型,我们的方法(Language Frontier Guide,LFG)可以在新颖的现实环境和模拟基准测试中优于无知探索和其他使用语言模型的方法。
Oct, 2023
通过利用大型语言模型,该论文研究了使用生成AI进行无地图越野导航,从而减少对传统数据收集和注释的需求。通过将口头指令转换为文本,并使用大型语言模型提取地标、优选地形和关键副词来进行限制性导航的速度设置。通过语言驱动的语义分割模型生成基于文本的图像遮罩,以识别图像中的地标和地形类型。通过使用相机参数将2D图像点转换为车辆的运动平面,MPC控制器可将车辆引导向所需地形。这种方法增强了对不同环境的适应能力,并便于使用高级指令导航复杂和具有挑战性的地形。
Apr, 2024
本文探讨了语言输入与机器人导航系统的整合,借助符号互操作假设来连接符号认知和体验性认知的鸿沟。我们研究了将语言和语义融入神经网络和同时定位与映射方法的先前工作,突出展示了这些整合如何推进了该领域的发展。通过将抽象符号处理与感知动作基础相对比,我们提出了一个统一的框架,其中语言既作为一个抽象的交际系统,又作为感知经验的基础性表示。我们对分布语义认知模型及其应用于自主代理的审查强调了语言整合系统的转变潜力。
Apr, 2024