CVPRMar, 2023

VIVE3D: 使用 3D 感知 GAN 进行独立于视点的视频编辑

PDF
TL;DR通过提出 VIVE3D 方法，我们引入了一种新的方法，扩展了基于图像的三维生成对抗网络的能力，使其能够在保持身份不变和保持时间一致的同时呈现输入视频。我们提出了两个新的构建块。 第一个是针对三维生成对抗网络专门定制的新颖 GAN 反演技术，通过联合嵌入多个帧并优化相机参数来实现。其次，除了传统的语义面部编辑（例如年龄和表情），我们首次展示了借助 3D GANs 的固有属性和我们的光流引导合成技术显示头部的新视图的编辑，并将其与背景视频结合。我们的实验表明，VIVE3D 以一致的质量从一系列摄像机视角生成高保真度的面部编辑，并以时间和空间一致的方式与原始视频合成。
vive3d3d gansvideo editingface editscamera parameters
发现论文，激发创造
  • 三维感知视频生成

    本文探讨了生成对抗网络 (GANs)，将神经隐式表示与时间感知区别器相结合，发展了一种 GAN 框架，仅用单目视频合成了 3D 视频，能够学习可分解的 3D 结构和运动的丰富嵌入，实现了新的时空渲染视觉效果，同时也能产生与现有 3D 或视频 GANs 相媲美的图像质量。

    Jun, 2022

  • PV3D：肖像视频生成的三维生成模型

    PV3D 提出了第一种生成性框架，它可以合成多视角一致的肖像视频，通过添加多个运动层构建运动生成器来引入运动动态，并提出了简单而有效的摄像机条件策略，能够支持许多下游应用，如动画静态肖像和视角一致的视频运动编辑。

    Dec, 2022

  • IDE-3D: 高分辨率三维感知人像综合的交互式分离式编辑

    本文提出了一个结合了低分辨率可编辑性和高质量的生成模型，是 3D-semantics-aware 方法的新途径，在视图一致、语义分离的面部图像方面具有状态 - of-the-art 的性能、忠实度和效率。

    May, 2022

  • 多视角反演的三维感知生成对抗网络

    当前针对人头的 3D GAN 反演方法通常只使用一个正面图像来重建整个 3D 头部模型，从而忽略了多视角数据或动态视频时的有意义信息。本研究基于现有先进的 3D GAN 反演技术，允许一致且同时地反演同一主体的多个视角。我们采用多潜变量扩展来处理动态人脸视频中的不一致性，从而从序列中重新合成一致的 3D 表示。由于我们的方法使用了有关目标主体的额外信息，我们观察到在几何精度和图像质量方面显著提高，尤其是在宽视角下的渲染。此外，我们展示了反演 3D 渲染的可编辑性，这使它们与基于 NeRF 的场景重建有所区别。

    Dec, 2023

  • 可控肖像图像动画的 3D GAN 反向推导

    本文提出了一种基于新开发的三维生成对抗网络（GANs）的画像图像动画的技术，该技术允许对图像主体的姿态进行明确控制，并展示了该方法在图像质量，身份保护和姿态转移等方面胜过先前的方法，同时支持属性修改。

    Mar, 2022

  • FreeStyleGAN：利用相机流形进行自由视角编辑的头像渲染

    本文提出了利用 GAN 进行 3D 重建，并引入了 GAN 相机流形的概念，通过精准的相机控制，实现了真正自由视点的渲染，在输入少量的照片的同时具有明显的语义控制能力。

    Sep, 2021

  • 基于伪多视角优化的高保真三维 GAN 反演

    提出了一种高保真的三维对抗生成网络，可以在保留输入图像的特定细节的同时合成逼真的新视图。该方法通过伪多视图估计和能见度分析建立，有效解决了三维反演中的几何纹理平衡问题，并成功实现了单张图像的高保真三维重建和新视图合成。并且本方法亦适用于图像属性编辑和 3D 纹理修改，因此有望被广泛应用于人工智能生成的三维内容领域。

    Nov, 2022

  • AniFaceGAN: 为视频头像生成可动画 3D 感知人脸图像

    本研究提出一种可动画的 3D 感知生成对抗网络用于多视角一致的人脸动画生成，通过将 3D 感知生成对抗网络的 3D 表示分解为模板场和形变场，并提出 3D 级模仿学习方案，帮助我们实现高质量的动画面部图像生成并具有较强的可视化 3D 一致性。

    Oct, 2022

  • 时光缝合：基于 GAN 的真实视频面部编辑

    本文提出了一种基于对生成对抗网络的理解和神经网络学习低频功能的能力，使用 StyleGAN 对视频中的面部进行语义编辑，提高了当前最先进技术水平，实现了有意义的面部操作，保持了更高程度的时间连贯性，并可应用于高质量的 Talking Head 视频中。

    Jan, 2022

  • 使用姿态优化的 3D GAN 反演

    本研究提出了一种通用的 3D GAN 反演方法，可以同时计算相机视角和潜变量代码，从而实现多视角一致的语义图像编辑。其关键在于利用预训练的估算器用于更好的初始化，并利用从 NeRF 参数计算的像素深度来更好地重构给定的图像。

    Oct, 2022