Paint-it: 基于深度卷积纹理地图优化和物理渲染的文本生成纹理合成
在零样本文本到 3D 人体生成方面的最新进展中,通过使用人体模型先验(例如,SMPL)或 Score Distillation Sampling(SDS)与预训练的文本到图像扩散模型,已经取得了突破性的成果。然而,由于相对较弱的扩散指导,SDS 可能提供不准确的梯度方向,因为它倾向于产生过度平滑的结果并生成与详细网状几何不一致的人体纹理,因此,直接利用现有的高保真度文本到 3D 人体纹理化策略是具有挑战性的。在这项工作中,我们提出了一种称为 PaintHuman 的模型,以解决这两个方面的挑战。我们首先提出了一种新的得分函数,称为降噪得分蒸馏(Denoised Score Distillation,DSD),通过引入负梯度分量来迭代地校正梯度方向并生成高质量的纹理。此外,我们使用深度图作为几何指导,以确保纹理在语义上与人体网状表面对齐。为了保证渲染结果的质量,我们采用了几何感知网络来预测表面材料并渲染逼真的人体纹理。与最先进的方法进行了大量实验证明了我们方法的有效性。
Oct, 2023
本文旨在通过文本描述生成 3D 网格材料。与现有方法合成纹理图不同,我们提出生成分段逐步建模材料图作为外观表示,支持高质量渲染并提供灵活的编辑。我们的方法通过预训练的 2D 扩散模型作为文本和材料图之间的桥梁,而不是依赖于大量的成对数据训练材料图生成模型。通过在生成的图像上初始化材料图参数,并通过可微分渲染模块进行微调,以符合文本描述。大量实验证明我们的框架在逼真度、分辨率和可编辑性方面的性能优于现有方法。
Apr, 2024
本文介绍了一种新颖的粗细生成框架 Paint3D,它能根据文本或图像输入,为未纹理化的 3D 网格生成高分辨率、无光照且多样化的 2K UV 纹理贴图。该方法通过利用预训练的深度感知 2D 扩散模型生成视图条件图像,并进行多视图纹理融合,得到初步的粗糙纹理贴图。然后,通过训练专门用于修复不完整区域和消除光照伪影的 UV 修复和 UVHD 扩散模型,解决了粗糙纹理贴图中的不完整区域和光照伪影问题。通过这一粗细过程,Paint3D 能够生成保持语义一致性且无光照的高质量 2K UV 纹理,从而显著推动了 3D 物体纹理制作的现状技术。
Dec, 2023
通过文本描述,我们开发了 3D 画笔技术,这种技术可以自动为网格上的本地语义区域上色。我们的方法直接在网格上操作,生成与标准图形管道完美融合的纹理映射,同时产生定位地图和与之符合的纹理映射。我们完善了局部编辑技术的细节和分辨率,利用级联扩散模型的多个阶段来监督,该模型通过从不同分辨率的图像中学到的生成先验模型,同时在级联方式下同时提取多个分辨率的得分,从而控制监督的粒度和全局理解。我们展示了 3D 画笔在不同语义区域内局部上色各种形状的有效性。
Nov, 2023
将图像生成、三维、多视角一致性、纹理退化和重新绘制策略作为主要研究区域,提出一种能够快速生成高质量三维内容的方法。
Dec, 2023
本文采用一种新方法,通过给定文本提示和 3D 网格来生成 3D 模型的纹理。该方法考虑了额外的深度信息,利用深度条件稳定扩散的评分蒸馏采样过程生成纹理。我们在开源数据集 Objaverse 上运行了模型,并进行了用户研究,与各种 3D 纹理方法的结果进行了比较。我们证明了我们的模型可以生成更令人满意的结果,并为同一对象产生各种艺术风格。此外,在生成可比质量的纹理时,我们取得了更快的时间。我们还进行了彻底的消融研究,研究了不同因素对生成质量的影响,包括采样步骤、引导尺度、负提示、数据增强、高度范围和替代 SDS 方法。
Nov, 2023
介绍一种新颖的方法用于合成给定 3D 对象的纹理,通过预训练的文本到图像扩散模型,提出了一种同步多视点扩散方法,早期生成的纹理内容达成一致,确保纹理的一致性。
Nov, 2023
该研究探索了 DALL-E-2 合成图像的照明一致性,以确定基于物理学的取证分析是否对检测这种新兴合成媒体有效,该媒体是由生成对抗网络和文本绘制合成引擎合成的。
Jul, 2022
自动 3D 面部纹理生成的新方法使用渐进潜在空间改进的方式,通过增强生成对抗网络(GANs)和分数蒸馏采样(SDS)相互促进,提供更高质量、丰富多样和高效的照片写实 3D 纹理生成。
Apr, 2024