Aug, 2023

相位流形中的运动中间插值

PDF
TL;DR通过使用周期自编码器学习到的相位变量，在混合专家神经网络模型中引入了一种新颖的数据驱动的动作插值系统，以达到人物的目标姿势。我们的方法在空间和时间上以不同的专家权重聚类动作，生成一系列自回归方式在当前状态和目标状态之间的姿势序列。此外，为了满足动画师手动修改的姿势或某些末端执行器作为要达到的约束，我们实施了学习的双向控制方案来满足这些约束。结果表明，使用相位进行动作插值任务可以使插值动作更加清晰，并进一步稳定学习过程。此外，在动作插值任务中使用相位还可以合成更具挑战性的运动，超越了行走等基本动作。此外，可以在给定目标关键帧之间进行风格控制。我们的提出的框架在动作质量和泛化性方面可与流行的最先进方法相竞争，特别是在存在较长的过渡持续时间的情况下。我们的框架有助于快速原型工作流程，用于创建游戏和电影行业中的动画人物序列，这是非常有趣的。
data-driven motion in-betweeningphases variablesmixture-of-experts neural network modelautoregressive mannerbi-directional control scheme
发现论文，激发创造
  • 鲁棒动作插值

    本文提出了一种基于对抗性递归神经网络的新型、稳健的过渡生成技术，可以作为 3D 动画师的新工具。系统合成了高质量的运动，使用时间稀疏的关键帧作为动画约束。我们提出了两种新的加性嵌入修饰符，它们被应用在网络架构中的潜在表示内，用于解决仅在未来关键帧添加调节信息时无法将状态 - of-the-art 的运动预测模型转换为稳健的过渡生成器的问题。为了定量评估我们的方法，我们在 Human3.6M 数据集的子集和适用于转换生成的新型佐佛摸捉数据集 LaFAN1 上提供了明确定义的中间演算基准。同时，本文还发布了这个新数据集和可重现我们基准结果的伴随代码。

    Feb, 2021

  • 双姿态拼接的多样化动画中间帧生成

    使用基于条件变分自动编码器的自回归网络实现单两帧生成过渡，结果表明其在动作质量和多样性方面均比现有方法更加优秀。

    Mar, 2023

  • 条件运动中间插帧

    该论文提出了一种方法 ——Motion in-betweening (MIB)，它可以在保持运动自然性的同时，生成开始和目标姿势之间的中间骨架运动；该方法还可以处理在姿态或语义条件下的 MIB 任务，并提供增强运动生成质量的运动增强方法。该方法在姿态预测误差方面优于现有的 MIB 方法，并提供了更多可控性。

    Feb, 2022

  • 使用扩散模型进行灵活的动作中间插值

    通过使用扩散模型生成多样化的人体动作，该研究提出了一种能够根据用户指定的空间限制和文本条件生成精确且多样化的动作的条件运动扩散补间方法（CondMDI）。在评估了该方法在 HumanML3D 数据集上的性能后，研究进一步探讨了基于引导和插值的方法，以及与这些方法相比，CondMDI 在推理时间关键帧创建方面的优势。

    May, 2024

  • 基于关键帧的运动插值连续中间标记学习与隐含运动流形

    本文提出了一种使用基于关键帧约束的潜在运动流形组成的新框架，以及从中生成连续自然的中间令牌表示的方法，进而外推和合成运动数据的运动综合阶段。我们的实验证明了该方法在插值准确性和视觉相似性方面具有优越性。

    Mar, 2023

  • 基于分层样式网络的动作合成

    本文提出了一种自我监督的方法来生成多样且自然的人体动作，通过分解生成任务并使用记忆库检索动作引用作为短程片段生成的源材料，并通过参数化的双向插值方案保证了生成运动的物理合理性和视觉自然性。在大规模的骨架数据集上，我们展示了这个方法在生成长距离、多样化和合理化运动方面的能力，并且这种方法能够适应未见数据，在动态世界中这种生成的序列有实实在在的效果。

    Aug, 2020

  • 时间和空间的探索性插帧

    我们引入有限生成作为一种广义控制视频生成的任务，仅基于给定的起始和结束帧来合成任意的摄像机和主题运动，通过新提出的 Time Reversal Fusion 采样策略完全充分利用图像到视频模型的内在泛化能力，无需额外的训练或原始模型的微调，生成平滑连接两个帧的视频，生成忠实的主题运动中间形态，静态场景的新视角，以及在两个边界帧相同时无缝视频循环。我们构建了一个多样化的评估数据集，并与最接近的现有方法进行比较，发现 Time Reversal Fusion 在所有子任务上表现优于相关工作，具有生成由有限帧引导的复杂运动和三维一致视图的能力。详见此 https URL 的项目页面。

    Mar, 2024

  • 面向动作驱动的人体动作预测的方向感知腿部运动学习

    运用动作驱动的过渡模型在人类运动预测中产生平滑的过渡，展示了高效的性能。

    Oct, 2023

  • 使用分层深度潜变量模型进行概率角色动作合成

    提出了一种基于概率框架生成角色动画的方法，该方法基于弱控制信号生成逼真的动作序列，并保留人类运动的随机性。所提出的层次循环模型映射每个子序列的运动到一个随机潜变量代码，使用在时间领域上扩展的变分自动编码器。同时，提出一个考虑每个关节对姿势产生影响的目标函数，并基于角度距离比较关节角度。打造两个新的定量协议和人类定性评估，证明算法能够生成具有说服力和多样性的周期性和非周期性运动序列，而不需要强控制信号。

    Oct, 2020

  • 通过特征变换和局部运动相实现人类运动实时样式建模

    本研究提出了一种利用动画合成网络来模拟基于本地运动相的运动内容的风格建模系统，通过特征变换来实时调制风格，其在实时风格建模方面的鲁棒性和效率得到了提高。

    Jan, 2022