Jun, 2023

SelfTalk: 一个自监督交换训练图表以理解 3D 说话面孔

PDF
TL;DR通过引入自我监督的跨模态网络系统，学习了三维说话脸部的 SelfTalk 框架构建了一个由三个模块组成的网络系统，以提高口型生成的精度和准确性。
speech-driven3d face animationselftalkcross-modals network systemlip-reading interpreter
发现论文，激发创造
  • Learn2Talk: 3D 口型学习 2D 口型

    提出了一种名为 Learn2Talk 的学习框架，该框架可以通过利用 2D 说话面领域的两个专业点来构建更好的 3D 说话面网络，主要关注嘴唇同步、语音感知、音频 - 3D 动作回归网络等方面的研究。

    Apr, 2024

  • DualTalker: 语音驱动的三维面部动画的跨模态双重学习方法

    通过交叉模态的双学习框架和辅助的模态一致性损失，提高数据使用效率、关联交叉模态的依赖关系，并增强微妙面部表情动力学的映射，从而在语音驱动三维面部动画中提高性能。

    Nov, 2023

  • CSTalk: 协作监督的语音驱动 3D 情感面部动画生成

    本研究提出了一种名为 CSTalk 的方法，通过建模面部运动不同区域之间的相关性并监督生成模型的训练，生成符合人脸运动模式的真实表情，解决了语音驱动的 3D 面部动画技术中面临的数据限制、唇部对齐以及面部表情自然度等挑战，实验结果表明我们的方法优于现有最先进的方法。

    Apr, 2024

  • PMMTalk：基于互补伪多模特征的语音驱动 3D 面部动画

    PMMTalk 是一种使用伪多模态特征的新框架，通过跨模态对齐模块和 PMMTalk 解码器提高面部动画的准确性，同时引入面部混合形状系数，从而产生更准确的结果。

    Dec, 2023

  • SwapTalk：基于音频驱动的一键定制潜空间内的说话人脸生成

    通过结合人脸交换和嘴唇同步技术，本文提出了一种创新的统一框架 SwapTalk，在相同的潜在空间中同时完成人脸交换和嘴唇同步任务，并引入了专家鉴别器指导和身份一致性度量等技术提高视频质量、同步准确性和身份一致性。

    May, 2024

  • CodeTalker: 利用离散运动先验驱动的语音驱动 3D 面部动画

    本文提出将基于语音的面部动画转化为在学习到的码本的有限代理空间中的代码查询任务，有效地减少了跨模态映射的不确定性，从而提高了生成的运动的生动性，并且通过使用一个自动回归模型，演示了我们方法在视觉和感知质量上均优于当前最先进的方法。

    Jan, 2023

  • AVI-Talking：学习音频 - 视觉指令用于表情丰富的 3D 说话脸生成

    利用大型语言模型指导实现具有表情细节合成能力的说话人脸生成系统，通过先理解语音信息并生成指令，再执行这些指令生成具有表情运动的生动说话人脸，实验证明该方法有效且具有一致的情感状态。

    Feb, 2024

  • 通过对抗性解缠音视频表示生成会说话的面部表情

    该研究旨在通过学习分解的音频 - 视觉表示来实现任意主题的对话面生成，并证明所学习的音频 - 视觉表示对于自动读唇和音频 - 视频检索任务非常有用。

    Jul, 2018

  • ScanTalk：从未注册的扫描数据生成 3D 说话人头像

    ScanTalk 是一个新的框架，利用 DiffusionNet 架构来解决面部固定拓扑结构的限制，实现任意拓扑结构的 3D 面部动画。通过与现有技术的全面比较，验证了该方法生成与现有技术可媲美的逼真说话头部的有效性。

    Mar, 2024

  • 全控制对话人脸生成

    论文旨在综合具有可控面部动作的谈话面孔。通过建立规范空间和多模态运动空间，提出正交性约束来分离身份和运动，从而实现生成外观自然、具有完全可控面部属性和准确的唇部同步的谈话面孔。实验证明，我们的方法在视觉质量和唇同步得分方面均取得了最先进的结果。这是第一个开发出在生成的视频中准确地展示包括唇部，头部姿势和眼动等所有目标面部运动的谈话面孔生成框架，没有超越 RGB 视频与音频的任何附加监督。

    Apr, 2023