Mar, 2024

通过语言引导的姿态代码编辑实现可控动作生成

PDF
TL;DRCoMo 是一种可控运动生成模型，通过利用大型语言模型的先验知识，在准确生成和编辑动作方面表现出色。它将动作分解为离散且语义上有意义的姿势代码，每个代码都包含身体部位的语义信息，如 “左膝稍微弯曲”。通过调整姿势代码，CoMo 可以实现直接干预动作编辑。实验证明，与最先进的模型相比，CoMo 在运动生成方面具有竞争力，在人体研究中，CoMo 在动作编辑能力方面远远超过以前的工作。
text-to-motion modelscomocontrollable motion generationpose codesmotion editing abilities
发现论文，激发创造
  • CamCo：可控相机的三维一致的图像到视频生成

    通过引入 CamCo，我们为图像到视频生成器提供了精确参数化的相机姿态输入，通过 Plücker 坐标，以增强视频生成的 3D 一致性和相机控制能力，同时有效生成可信的物体运动。

    Jun, 2024

  • TEMOS: 从文本描述生成多样化的人类动作

    本文介绍了使用文本描述生成多样的 3D 人类动作的方法，并提出了 TEMOS 框架，它是一种基于变分自编码器的文本条件生成模型，可以产生多种不同的人体动作，实验证明 TEMOS 框架在 KIT Motion-Language 基准测试中取得了显著的改进。

    Apr, 2022

  • 从文字描述中合成构成动画

    本文针对自然语言描述的运动合成问题，提出了一种基于两级流模型的生成复合动作的技术，利用两个流分别表示上下半身的动作，能够有效地生成短句和复合句中描述的 3D 姿态序列，与已有研究相比，实验结果表明我们的模型在客观评价方面进步了 50% 以上，在主观评价方面也得到了很好的实验结果。

    Mar, 2021

  • MotionLCM：基于潜变一致性模型的实时可控动作生成

    基于 MotionLCM 模型，作者提出了一种能够实时生成可控运动的方法，通过引入运动潜在一致性模型（MotionLCM）和使用运动控制网络，实现了对文本和控制信号的实时生成和控制，在保持运行效率的同时展现出了出色的生成和控制能力。

    Apr, 2024

  • 计划、姿势与前行：走向开放世界的文本转动作生成

    该研究提出了名为 PRO-Motion 的拆分与解决框架，由运动规划器、姿势扩散器和动作扩散器三个模块组成，通过指示大型语言模型生成描述目标动作关键姿势的脚本序列，转化为真实的运动，从而实现了从复杂的开放世界提示生成多样且逼真的运动。

    Dec, 2023

  • MotionGPT：经过微调的 LLM 是通用运动生成器

    本文提出了一种使用多模态控制信号的运动通用生成器（MotionGPT），它将多模态信号作为大型语言模型（LLMs）中的特殊输入令牌来生成连续的人类动作，是首次使用多模态控制信号生成人类动作的方法。

    Jun, 2023

  • OMG：通过混合控制器实现开放词汇的动作生成

    基于 OMG 框架，我们通过预训练和微调将文本转动作的生成过程进行改进，并引入 motion ControlNet 和 Mixture-of-Controllers 模块，实现了针对零样本文本生成动作的显著提升。

    Dec, 2023

  • 多模态多部分人体动作综合的统一框架

    通过量化多种身体部位的运动为其各自领域定制的码本，利用预训练模型将多模态信号转换为共享的潜在空间，并通过逐步预测后续令牌形成完整序列来将这些信号转换成离散的运动令牌，最后从令牌序列中重构连续的实际运动。我们的研究方法将多模态动作生成挑战框架定义为令牌预测任务，利用基于控制信号模态的专门码本，具有可扩展性，能够轻松整合新的模态。广泛的实验证明了我们设计的有效性并强调了其广泛应用的潜力。

    Nov, 2023

  • 在场景中根据文本控制生成人类互动动作

    基于去噪扩散模型，我们提出了一种用于文本控制的场景感知运动生成方法。该方法通过预训练场景不可知的文本到运动扩散模型，并利用包含详细场景信息的增强数据对模型进行微调，产生逼真多样的人 - 场景互动。

    Apr, 2024

  • Language2Pose: 自然语言基础姿态预测

    本文提出了一种名为 JL2P 的神经架构，采用课程学习方法来解决如何将语言概念映射到动作动画的核心建模挑战，并在公开语料库上进行了测试，表明我们的方法能够生成更准确的动画。

    Jul, 2019