Dec, 2023

R2-Talker：利用哈希网格特征编码和逐层渐进调制的逼真实时说话人头部合成

PDF
TL;DRR2-Talker 是一个高效和有效的框架，可以实现逼真的实时说话头部合成，通过使用多分辨率哈希网格来编码面部标志作为条件特征，并在 NeRF 渲染管道中引入渐进多层条件化方案，优化了条件特征融合、嘴巴合成和视觉质量。
dynamic nerfstalking portrait synthesisr2-talkerfacial landmarksreal-time talking head synthesis
发现论文，激发创造
  • 高保真语音与图像合成的高效区域感知网络燃射场

    本论文提出了一种名为 ER-NeRF 的新型条件神经辐射场（NeRF）架构，用于对话肖像合成，可以同时实现快速收敛、实时渲染和小型模型的最新性能。

    Jul, 2023

  • NeRFFaceSpeech：一次性音频驱动的 3D 说话头合成基于生成先验

    使用 NeRF 和生成模型的先验知识，提出了一种名为 NeRFFaceSpeech 的新方法，通过空间同步和补全缺失信息，实现了从单一图像生成具有增强的 3D 一致性的语音驱动的说话头部。

    May, 2024

  • DT-NeRF：高保真说话肖像合成的分解三面体哈希神经辐射场

    通过分解三层散射哈希神经辐射场（DT-NeRF）框架，将口腔和面部其他特征分别建模，加入音频特征并利用神经辐射场（NeRF）的能力，以增强人脸的体积表示，从而在逼真渲染的说话人脸方面取得了最先进的结果。

    Sep, 2023

  • GeneFace++: 实时稳定的通用音频驱动 3D 口型生成

    GeneFace++ 是目前第一个实现了稳定和实时的通用音频 - 唇形同步对话人肖像生成，并通过采用辅助特征、引入时间损失、设计计算效率高的 NeRF 模型等方法处理了唇形同步、视频质量和系统效率等方面的挑战。

    May, 2023

  • 形变神经辐射场一次高保真说话头合成

    本文提出了 HiDe-NeRF，其采用显式 3D 结构表示和隐式神经渲染来提高脸部表情和姿态的真实性，从而实现高保真和自由视角的说话头合成。

    Apr, 2023

  • GeneFace：通用高保真音频驱动的 3D 人脸合成

    研究提出了一种新的通用高保真 NeRF-based 说话人脸生成方法 GeneFace，并且在大规模口型阅读语料库的基础上，学习了一个变分运动生成器，并引入了一个域自适应后置网络来校准结果，实现了通用外域音频的自然结果创造。

    Jan, 2023

  • AD-NeRF：音频驱动的神经光辐射场用于说话人头部合成

    本文提出了一种基于神经场景表示网络的方法来生成高保真度的会说话头部视频，采用条件隐式函数和动态神经辐射场来直接从输入音频信号生成视频，并支持自由调整音频信号，视角和背景图像。

    Mar, 2021

  • 高斯说话人：通过三维高斯喷洒合成特定说话人的形象

    使用 3D 高斯散点图作为基础，GaussianTalker 是一种基于音频驱动的说话人头部合成方法，具有准确的唇部同步和优秀的视觉质量，超过现有最先进的方法，并具有实时渲染性能。

    Apr, 2024

  • 嵌入式表征学习网络实现风格化视频肖像动画

    針對話頭生成中的風格可控性和頸部位移問題，我們提出了一種新的生成範例學習網絡（ERLNet），通過兩個學習階段的協作，成功實現了比現有算法更逼真的話頭生成。

    Apr, 2024

  • Talk3D：个性化 3D 生成先验的高保真说话肖像合成

    Talk3D 是一种新的音频驱动的说话头合成框架，通过有效地采用预训练的 3D 感知生成先验模型，可以忠实地重建其合理的面部几何形状。通过音频驱动的注意力 U-Net 架构，我们的模型预测 NeRF 空间中由音频驱动的动态面部变化，并由与音频无关的调节令牌调制，有效地解耦与音频特征无关的变化。与现有方法相比，我们的方法在生成逼真的面部几何形状方面表现出色，即使在极端的头部姿势下也能如此。我们还进行了广泛的实验证明我们的方法在定量和定性评估方面超越了现有的最新基准。

    Mar, 2024