Mar, 2024

AMP：自主驾驶中基于下一个令牌预测思想的自回归运动预测再研究

PDF
TL;DR本文在自动驾驶领域中引入了 GPT 风格的下一个标记预测技术以实现运动预测的自回归，结合三个分解注意模块和不同的位置编码方式来捕捉驾驶场景中的复杂空间 - 时间和语义关系，实验结果显示该方法在 Waymo Open Motion 和 Waymo Interaction 数据集中取得了最先进的性能。
motion predictionautonomous drivingautoregressive predictiongpt style next token predictionspatial-temporal relations
发现论文，激发创造
  • 探索基于地图特征的高效注意力车辆运动预测

    本文将使用基于 Efficient Attention 的模型，从 Argoverse 1.0 基准测试中的最小地图信息中提取过去的轨迹和地图特征，以实现关于自动驾驶的运动预测。

    May, 2022

  • 探索注意力 GAN 用于车辆运动预测

    本研究使用自注意力模块来计算社交和物理上下文情境，采样白噪声，探索了生成模型中注意力的影响，并在 Argoverse 运动预测基准 1.1 上取得了竞争力的单峰结果。

    Sep, 2022

  • 基于 Transformer 的多模式神经网络用于自动驾驶的运动预测

    本文介绍了一种基于 Transformer 结构的神经预测框架来模拟车辆之间的社交关系和预测可能的轨迹，其中采用了多模态注意机制来解决运动预测的多模态问题，并在 Argoverse 运动预测数据集上得到了最佳预测精度。

    Sep, 2021

  • MotionLM: 多智能体运动预测作为语言建模

    可靠地预测道路行为是自动驾驶车辆安全规划的关键组成部分。本研究将连续轨迹表示为离散运动令牌序列，并将多智能体运动预测视为一个语言建模任务。我们的模型 MotionLM 具有多个优势：首先，它不需要锚点或明确的潜在变量优化来学习多模态分布；其次，我们利用标准的语言建模目标，通过最大化序列令牌的平均对数概率来实现；此外，该模型的顺序分解使得它能够进行时间因果条件推断。在 Waymo 开放动态数据集上，所提出的方法在多智能体运动预测方面取得了新的最先进性能，排名第一。

    Sep, 2023

  • 注意力多层感知器用于非自回归生成

    提出了一种具有线性时间和空间复杂度的新型多层感知机（AMLP）来解决非自回归生成模型中的二次复杂度问题，并通过在文本转语音合成和机器翻译任务中的实验证明，AMLP 与 NAR 模型的结合在效率上明显优于竞争模型。

    Oct, 2023

  • 面具化运动预测器是强大的三维动作表示学习器

    本文提出了一种用于 3D 动作识别的 Masked Motion Prediction（MAMP）框架，通过对蒙面的空间 - 时间骨骼序列进行预测，实现对丰富语义区域的更好关注，进而提高自监督预训练的性能。经过对 NTU-60、NTU-120 和 PKU-MMD 数据集的广泛实验，表明所提出的 MAMP 预训练方法显著提高了基础的 transformer 模型的性能，并取得了最先进的结果。MAMP 的源代码可以在给定的网址上找到。

    Aug, 2023

  • 带前瞻注意力的自回归建模

    本文介绍了一种新颖的基于 Transformer 的自回归架构，通过根据某些提议分布外推过去的多个连续部分来估计下一个令牌的分布，并关注这些扩展字符串，以改进自回归模型的性能。

    May, 2023

  • 自动驾驶中运动预测的高效基线

    我们提出了一种基于 Argoverse 的有效基准线方法，旨在利用用于 Motion Prediction 的最新技术，包括注意力机制和 GNNs，来生成可行的多模态轨迹，以较少的操作和参数实现与其他 SOTA 方法相当的准确性。

    Sep, 2023

  • T4P：通过遮蔽自动编码器和特定角色记忆的测试时轨迹预测训练

    使用数据驱动方法结合在线学习方法（包括使用自动标签任务的回归损失和使用隐式自编码器进行表示学习）来解决轨迹预测中的多个参与者和环境交互问题，并在各种跨数据集分布转移场景中验证了方法的有效性。

    Mar, 2024

  • 多元未来预测

    为了预测智能与健壮的复杂动态环境下未来的多个目标路径，该论文提出了基于概率的框架来学习表示语义多模态未来的潜在变量，其中利用动态基于注意力的状态编码器学习编码智能体之间的交互，可被用于车辆轨迹预测。

    Nov, 2019