Gaussian3Diff:3D 高斯扩散用于 3D 全头部合成与编辑
DiffusionAvatars 通过合成高保真度的三维头像人物,提供了对姿态和表情的直观控制。我们提出了一种基于扩散的神经渲染器,利用通用的二维先验生成引人注目的人脸图像。通过从目标视点渲染神经参数头模型(NPHM)对表情和头部姿态进行粗略指导,我们作为人物的代理几何体。此外,为了增强精细面部表情的建模,我们直接在 NPHM 中通过交叉注意力采用从 NPHM 获得的表情代码来调整 DiffusionAvatars。最后,为了在不同视点和表情之间综合一致地细化表面细节,我们通过 NPHM 的规范空间在头部表面上装配可学习的空间特征。我们使用人物的 RGB 视频和相应跟踪的 NPHM 网格对 DiffusionAvatars 进行训练,并在自我重演和动画场景中测试所得到的头像。我们的实验证明,DiffusionAvatars 在生成人物的新姿态和表情的时候能够产生时间上连贯而视觉上有吸引力的视频,优于现有方法。
Nov, 2023
通过构建新的模型,通过将 2D 扩散模型和 3D 重建模型进行紧密耦合,我们可以从单个 RGB 图像中创建逼真的头像,并实现几何和外观上的高保真度。
Jun, 2024
基于 3D 高斯原理,我们提出了一个名为 GaussianHead 的头像算法,它在头部几何和三面平面的因素对齐变换有效消除了固定映射引入的偏见,使得在自重建、新视图合成和跨身份再现等任务中获得了最佳的可视效果,并保持高渲染效率(每帧 0.12 秒)。有关代码和其他视频可以在项目主页上找到。
Dec, 2023
本研究工作旨在通过将 3D 可变模型整合到最新的多视角一致性扩散方法中,增强生成扩散模型在创建可控、照片般逼真的人类头像任务中的质量和功能。我们的实验证明了在基于关节的 3D 模型的准确约束下,生成流水线模型在单图像的新视角合成任务上的性能改进,更重要的是,这种整合实现了面部表情和身体姿势控制在生成过程中的无缝和准确融入。据我们所知,我们提出的框架是第一个允许从未见过的单一图像创建完全 3D 一致、可动画和照片般逼真的人类头像的扩散模型;广泛的定量和定性评估证明了我们的方法在新视角和新表情合成任务上相对于现有最先进的头像创建模型的优势。
Jan, 2024
通过使用基于三维高斯曲面的动态三维表示以及参数可变的脸部模型,我们介绍了一种新的方法 ——GaussianAvatars,用于创建在表情、姿势和视角方面可完全控制的逼真头像。
Dec, 2023
高保真度 3D 头像模型的研究中,轻量级稀疏视图下依然存在很大挑战。本文提出了用可控的 3D 高斯模型表示的高保真度的头像模型。我们优化了中性 3D 高斯模型以及基于完全学习的 MLP 变形场,用于捕捉复杂表情。这两部分互相有益,因此我们的方法可以在保证表情精度的同时模拟细致的动态细节。此外,我们基于隐式 SDF 和深度 Marching Tetrahedra 设计了一个良好的几何引导初始化策略,以确保训练过程的稳定性和收敛性。实验证明,我们的方法优于其他最先进的稀疏视图方法,在夸张的表情下实现了 2K 分辨率下的超高保真度渲染质量。
Dec, 2023
本文提出了一种新的基于 3D 可塑模型(3DMM)的文本引导头部生成方法,利用扩散模型生成多视图一致性辐射场的同时更新几何和纹理以生成和文本描述一致的 3D 头部化身,以此在一定程度上提高 3D 头部生成的精度和多样性。
Jul, 2023
DiffHuman 是一种基于概率的方法,通过一个单一的 RGB 图像实现逼真的三维人体重建。与确定性方法不同,DiffHuman 根据二维图像预测三维重建的概率分布,可以生成与图像一致的多个详细的三维人体模型。此外,DiffHuman 还引入了一个生成器神经网络,可以以大幅减少的运行时间进行渲染,从而实现了一种新颖的双分支扩散框架。在实验中,DiffHuman 在重建可见表面方面与现有技术不相上下,并且可以对输入图像中未见或不确定的部分生成多样且详细的重建结果。
Mar, 2024
在这项研究中,我们提出了 FitDiff,一种基于扩散的三维人脸化身生成模型,它可准确生成可光照补充的人脸化身,利用从 “野外” 二维人脸图像中提取的身份嵌入。该多模态扩散模型同时输出面部反射映射(漫反射和镜面反射率及法线)和形状,展示了强大的泛化能力。它仅在公共人脸数据集的注释子集上进行训练,与三维重建配对。我们通过使用感知和人脸识别损失来指导反向扩散过程,重新审视了典型的三维面部拟合方法。FitDiff 是第一个以面部识别嵌入为条件的 LDM,它能够重构可光照补充的人类化身,可以直接在常见的渲染引擎中使用,仅从无约束的人脸图像开始,并达到了业界的最佳性能。
Dec, 2023
从大型 2D 图像集合中学习 3D 头部先验是实现高质量 3D 意识人体建模的重要步骤。本研究提出了一种有效的架构,名为 Generative Gaussian Heads(GGHead),其采用了最近的 3D 高斯光斑表示法,并结合了 2D 图像生成器和全变差损失,能够快速生成并渲染具有高分辨率和全局 3D 一致性的头部实例。
Jun, 2024