Apr, 2023

跟随你的姿势：使用无姿态视频进行姿势引导的文本到视频生成

PDF
TL;DR本研究提出一种新的双阶段训练方法，可利用易获得的数据集和预训练的 text-to-image（T2I）模型，生成可编辑和姿态可控的字符视频。这种方法成功地生成了连续的姿态可控字符视频，同时保持了预训练 T2I 模型的编辑和概念构成能力。
pose-controllable character videostext-to-image modelkeypoint-image pairstemporal self-attentioncross-frame self-attention
发现论文，激发创造
  • 可控的图像描述生成视频技术

    提出了一种名为 TI2V 的新的视频生成任务，即从静态图像和文本描述生成视频。介绍了一种名为 MAGE 的视频生成器，其中包含一种创新的运动锚（MA）结构，以存储外观 - 运动对齐表示，通过三维轴向变压器与给定图像交互，支持可控性和多样性。两个新的视频 - 文本匹配数据集验证了 MAGE 的有效性并展示了 TI2V 的潜力。

    Dec, 2021

  • Follow-Your-Pose v2: 稳定姿态控制的多条件引导角色图像动画

    提出了一个实用而稳健的框架 Follow-Your-Pose v2，它可以在互联网上易于获取的噪声数据集进行训练，并通过设计多条件引导器解决背景稳定性、多角色生成中的身体遮挡以及角色外貌的一致性等问题。通过对接近 4000 帧的新基准进行广泛实验，表明我们的方法在两个数据集和 7 个度量标准上比最先进的方法提高了 35% 以上。同时，定性评估表明我们的方法在生成复杂背景和多角色身体遮挡的场景中显著改善了生成视频的质量，表明了我们方法的优越性。

    Jun, 2024

  • 稳定姿态：利用变形金刚进行姿态引导的文本到图像生成

    通过引入粗糙到精细的注意掩蔽策略到视觉 Transformer (ViT) 中，我们提出了一个新的适配器模型 Stable-Pose，以在生成图像时获得准确的姿势指导，并通过层级方式从粗糙到精细的过渡来提供一种对齐姿势表示的优化方式。

    Jun, 2024

  • PoseAnimate: 零样本高保真度姿势可控角色动画

    从单张图片生成视频序列的 PoseAnimate 是一种新颖的零样本人物动画框架，通过将多样化的姿势信号整合到条件嵌入中以保持人物独立内容并维持动作的精确对齐，增强了时序一致性、保留了人物身份特征和复杂背景细节以及通过解耦角色和背景改善动画精度。实验结果表明，该方法在人物一致性和细节保真度方面优于现有的基于训练的方法，并且在所生成动画中始终保持较高水平的时序一致性。

    Apr, 2024

  • TIPS: 文本驱动的姿势合成

    本研究提出了一种三步走的文本姿势转移方法，解决了现有姿势转移算法的缺陷，并在 DeepFashion 数据集上新增了姿势注释，通过实验得出了显著的定量和定性分数。

    Jul, 2022

  • 舞动的阿凡达：基于姿势和文本引导的人体动作视频合成与图像扩散模型

    提出了一种名为 “Dancing Avatar” 的方法，通过文本和姿势驱动，利用训练良好的 T2I 扩散模型生成逐帧人体运动视频，同时保持上下文相关性、人物外观一致性和背景连续性，实现生成具有出色质量的人类视频。

    Aug, 2023

  • 基于文本指导的人物图像合成

    本论文提出了一种新颖的方法，根据自然语言描述操纵人物图像的视觉外观和姿态，并进行了广泛的实验以证明该方法的有效性。

    Apr, 2019

  • 姿势引导的人体视频生成

    本文提出了一种基于姿态引导的方法来以可分离的方式合成人类视频：可信的运动预测和协调的外观生成，旨在探索并掌握视频合成中人体姿态的本质动态和诠释能力，并在保持外观连贯性的同时处理异常和嘈杂数据，实验证明其优于现有技术。

    Jul, 2018

  • CameraCtrl: 文本到视频生成的相机控制功能

    本研究介绍了 CameraCtrl 模型，通过精确控制相机姿态来实现对 T2V 模型的准确控制，研究结果表明，多样的相机分布和相似的外观确实提高了可控性和泛化性，这一成果在实现从文本和相机姿态输入到动态定制视频叙事方面迈出了一步。

    Apr, 2024

  • 由无生有：无言训练的开放词汇文本生成动作

    本文探讨了在零样本学习中的离线开放词汇文本到动作生成，使用一个预训练的运动生成器从被遮蔽的运动中学习来重建全动作，利用一个文本到姿态生成器合成未被遮蔽的姿态来构建提示，使用了文本 - 姿态对齐模型和新颖的无文字训练机制来提高效率和稳定性。

    Oct, 2022