Mar, 2024

注意错误！视觉与语言导航中的指示错误检测和定位

PDF
TL;DR在连续环境中的视觉与语言导航 (VLN-CE) 是一项直观但具有挑战性的 AI 任务，我们提出了一个新颖的基准数据集，引入了各种类型的指令错误并考虑了潜在的人为原因，从而为连续环境中的 VLN 系统的鲁棒性提供了宝贵的见解。我们还正式定义了指令错误检测和定位的任务，并在我们的基准数据集上建立了一个评估协议，我们提出的基于跨模态变换器架构的有效方法在错误检测和定位方面表现最好。
vision-and-language navigationvln-ceinstruction errorscontinuous environmentserror detection
发现论文，激发创造
  • I2EDL：交互式指令错误检测和定位

    基于视觉和语言的连续环境中的导航任务中，我们提出了一种交互式指令错误检测和定位方法（I2EDL），允许智能代理在导航过程中与用户进行交互以验证指令错误，并通过准确定位错误部分，及时向用户查询纠正，从而提高导航成功率，减少交互次数。

    Jun, 2024

  • 持续视觉与语言导航

    以连续学习为基础，提出了视觉语言导航的连续学习范式，通过重新组织已有的导航数据集，提出了 CVLN-I 和 CVLN-D 两个用于训练和评估 CVLN 代理的数据集，进一步提出了 Perplexity Replay (PerpR) 和 Episodic Self-Replay (ESR) 两种基于回放的新方法，通过广泛实验验证了所提方法的有效性。

    Mar, 2024

  • 基于图形的连续环境中视觉语言导航的环境表征

    本研究介绍了一种基于环境表示图（ERG）的跨模式注意力导航模型来解决语言说明与环境之间的联系问题，并在 VLN-CE 任务的成功率方面表现出令人满意的表现。

    Jan, 2023

  • 通过语义更丰富的指令来弥补 VLN 中的视觉差距

    本文介绍了数据扩充方法以改善现有的人工智能模型在 VLN 任务中性能表现不佳的问题，该方法利用了 Matterport3D 数据集中的元数据信息来引导新的导航指令的生成，并在未见过的环境中使性能提高了 8%。

    Oct, 2022

  • 连续环境下视觉语言导航的语言对齐航点（LAW）监督

    本文针对视觉语言导航任务提出了一种基于自然语言的导航方法，通过一个新的衡量指标来度量环境导航中代理人遵循指令的准确度。

    Sep, 2021

  • 具备体验智能的视觉 - 语言导航：综述

    长期愿景是提高代理者和环境的感知、理解和交互能力，以实现具体导航的视觉 - 语言导航（VLN）作为实现具体导航的核心研究路径，关注代理者如何使用自然语言与人类进行有效沟通，接收和理解指令，并最终依靠视觉信息实现准确的导航。此综述系统回顾了 VLN 的研究进展并详细介绍了具体导航的研究方向，包括系统架构、基于方法的研究和常用基准数据集，全面分析了当前研究面临的问题和挑战，并探讨了该领域的未来发展方向，旨在为研究人员提供实用的参考。

    Feb, 2024

  • 沿着路径前进：视觉语言导航中的指令准确度

    通过对 Room-to-Room 数据集的评估提出新的评价指标 CLS，并且创建了新数据集 Room-for-Room (R4R) 用于指导指令跟踪的任务，同时通过比较与基准系统，表明重视指令的代理程序优于重视目标完成的代理程序。

    May, 2019

  • 基于连续环境下视觉语言导航的模拟到模拟转移

    这篇论文探讨了如何通过迁移学习将抽象的 VLN 任务应用到真实的 VLN-CE 任务中，提高了原先 VLN-CE 任务的成功率，但并没有完全保持抽象环境下的表现，并且通过一系列实验找出了导致性能降低的原因，并提供了进一步改进的清晰方向。

    Apr, 2022

  • 视觉语言导航的多模态判别模型

    本论文提出了一种使用多模态对齐的鉴别器来评估视觉和语言导航任务中的自然语言指令，以及通过预训练组件暖启动 VLN 代理以改善其在以前看不见的环境中的表现的方法。

    May, 2019

  • 对比指导 - 轨迹学习用于视觉 - 语言导航

    本文提出了 Contrastive Instruction-Trajectory Learning（CITL）框架，通过粗粒度的对比学习和细粒度的对比学习目标来学习视觉和语言表示，同时采用逐对样本加权机制来增强模型的鲁棒性和泛化性，该方法在视觉和语言导航领域取得了最好的性能。

    Dec, 2021