我们提出了一种基于扩散的模型 MagicDance，用于处理具有挑战性的人类舞蹈视频中的 2D 人体动作和面部表情转换。通过预训练外观控制块和微调外观 - 姿势 - 关节点控制块的两阶段训练策略，我们旨在在保持身份不变的同时生成任何目标身份驱动的人类舞蹈视频。

Nov, 2023

提出了一种新框架，能够根据给定条件下低维空间中的形状和颜色信息的动态演化，生成连贯的 4D 序列。实验证明，该方法在生成具有颜色和 4D 网格动画的高质量 3D 形状方面具有显著优势。

Mar, 2024

MagicAvatar 是一种用于多模态视频生成和人体化身动画的框架，通过将动作明确分离为两个阶段：多模态到动作转换和动作到视频生成，在提供的人物图像的基础上能够实现简单的人物动画和根据第一阶段产生的具体动作实现特定身份的人物动画。

Aug, 2023

通过轨迹条件下的文本到 4D 生成，我们提出了一种将运动分解为全局和局部组件的方法，该方法通过文本到视频模型的监督来学习全局轨迹参数化的边界框的刚性变换以及适应于全局轨迹的局部变形，并在合成场景的任意轨迹上产生动画场景，从而提高了合成场景的逼真度和生成运动的数量。

Mar, 2024

通过从参考视频中提取对象形状和运动的新型非参数形状重建方法，结合物理模拟和匹配运动进行驱动，实现将参考视频中的对象运动转移到各种不同类别的生成的 3D 高斯函数，确保精确且可定制的运动转换。

May, 2024

从单张图片生成视频序列的 PoseAnimate 是一种新颖的零样本人物动画框架，通过将多样化的姿势信号整合到条件嵌入中以保持人物独立内容并维持动作的精确对齐，增强了时序一致性、保留了人物身份特征和复杂背景细节以及通过解耦角色和背景改善动画精度。实验结果表明，该方法在人物一致性和细节保真度方面优于现有的基于训练的方法，并且在所生成动画中始终保持较高水平的时序一致性。

Apr, 2024

提出了一种可控的视频生成框架 MimicMotion，通过引入自信姿势引导、基于姿势置信度的区域损失放大和渐进式潜在融合策略，实现了生成任意长度高质量视频的目标，并在各个方面显示出与之前方法相比的显著改进。

Jun, 2024

通过使用伪多视图视频，我们提出了一种新颖的学习方法，用于前馈一次性 4D 头像合成，并利用运动感知交叉注意力的简单视觉转换器骨干，我们的方法在重建保真度、几何一致性和运动控制精度方面具有优于先前方法的性能。

Mar, 2024

通过使用扩散生成模型，我们提出了 Dream-in-4D 方法，可以有效地实现从文本和图像生成动态的 3D 场景，该方法包括利用扩散指导学习高质量的静态 3D 资源、使用可变形神经光辐射场将学习的静态资源与形变分离、以及使用多分辨率特征网格和位移总变差损失来学习具有视频扩散指导的运动。通过用户偏好研究，我们证明了与基线方法相比，我们的方法在图像质量、动态一致性和文本保真度方面显著提高了文本到 4D 生成的效果。由于其运动分离表示，我们的方法还可以轻松应用于可控的生成，其中外观由一个或多个图像定义，无需修改运动学习阶段。因此，我们的方法首次提供了一种统一的方法，用于文本到 4D、图像到 4D 和个性化 4D 生成任务。

Nov, 2023

MotionCrafter 是一种新型一次性实例引导的动作定制方法，通过并行的时空架构注入参考动作到基础模型的时间部分，同时独立调整空间模块以进行角色或风格控制，以增强动作与外观的解耦，进而维持多样性，量化和定性实验证明了 MotionCrafter 在整合动态动作、保持一致性和提供广泛外观生成能力方面的成功。

Dec, 2023