3D 画笔:级联分数蒸馏的 3D 形状本地风格化
在零样本文本到 3D 人体生成方面的最新进展中,通过使用人体模型先验(例如,SMPL)或 Score Distillation Sampling(SDS)与预训练的文本到图像扩散模型,已经取得了突破性的成果。然而,由于相对较弱的扩散指导,SDS 可能提供不准确的梯度方向,因为它倾向于产生过度平滑的结果并生成与详细网状几何不一致的人体纹理,因此,直接利用现有的高保真度文本到 3D 人体纹理化策略是具有挑战性的。在这项工作中,我们提出了一种称为 PaintHuman 的模型,以解决这两个方面的挑战。我们首先提出了一种新的得分函数,称为降噪得分蒸馏(Denoised Score Distillation,DSD),通过引入负梯度分量来迭代地校正梯度方向并生成高质量的纹理。此外,我们使用深度图作为几何指导,以确保纹理在语义上与人体网状表面对齐。为了保证渲染结果的质量,我们采用了几何感知网络来预测表面材料并渲染逼真的人体纹理。与最先进的方法进行了大量实验证明了我们方法的有效性。
Oct, 2023
该研究提出了一种名为 HeadArtist 的方法,通过文本描述生成 3D 人头模型,采用具有里程碑引导的 ControlNet 作为生成先验,通过自分数蒸馏(SSD)的方式优化参数化 3D 人头模型,实验结果表明这种方法生成的高质量 3D 人头雕塑几何结构和现实外观足够好,并且在艺术造型和外观编辑方面明显优于现有的方法。
Dec, 2023
通过输入文本和风格参考图像,我们提出了一种生成风格化的三维对象的方法,利用神经辐射场重建来合成与文本提示一致内容和风格参考图像的三维模型,并通过样式化评分蒸馏损失来指导文本到三维的优化过程,输出视觉合理的几何和外观。经与现有方法的比较表明我们方法在视觉上表现强大,同时通过用户研究的定量结果得到进一步支持。
Jun, 2024
通过神经重参数纹理优化,我们提出了一种基于文本的高保真度纹理映射合成方法 Paint-it。通过优化合成文本描述中的纹理映射,利用分数蒸馏采样 (SDS),并使用深度卷积物理渲染 (DC-PBR) 重新参数化基于物理的渲染纹理映射,以获得杂质滤波和优化课程调度,并能够在短时间内生成出色质量的 PBR 纹理映射。
Dec, 2023
在多样化的视觉模态中,利用大规模文本生成模型进行生成和编辑应用时,跨多图像实现一致性是具有挑战性的,本文提出了一种基于 CSD 的新方法,该方法利用 SVGD 将多个样本视为 “粒子” 进行更新,并组合它们的评分函数以同步地蒸馏一组图像的生成先验,从而促进了 2D 图像信息的无缝集成,展示了 CSD 方法在全景图像、视频和 3D 场景等任务中的有效性,具有提高交叉样本一致性的实用性。
Jul, 2023
本研究提出了一种名为 DreamPortrait 的算法,它可以在一个前向传递中生成文本引导下的 3D 感知画像,通过 Score Distillation Sampling 和 GAN 损失正则化方法来优化分布,进一步设计了 3D 感知门控交叉关注机制,生成高效且具有鲁棒的多视图语义一致性的人像。
Jun, 2023
本文采用一种新方法,通过给定文本提示和 3D 网格来生成 3D 模型的纹理。该方法考虑了额外的深度信息,利用深度条件稳定扩散的评分蒸馏采样过程生成纹理。我们在开源数据集 Objaverse 上运行了模型,并进行了用户研究,与各种 3D 纹理方法的结果进行了比较。我们证明了我们的模型可以生成更令人满意的结果,并为同一对象产生各种艺术风格。此外,在生成可比质量的纹理时,我们取得了更快的时间。我们还进行了彻底的消融研究,研究了不同因素对生成质量的影响,包括采样步骤、引导尺度、负提示、数据增强、高度范围和替代 SDS 方法。
Nov, 2023
将图像生成、三维、多视角一致性、纹理退化和重新绘制策略作为主要研究区域,提出一种能够快速生成高质量三维内容的方法。
Dec, 2023
DreamCraft3D 是一个层次化的 3D 内容生成方法,通过使用 2D 参考图像来引导几何雕刻和纹理增强的阶段,解决了现有方法遇到的一致性问题,使用得分蒸馏采样和视角相关的扩散模型来生成一致的几何体,并通过训练个性化的扩散模型来提高纹理质量,最终生成具有逼真渲染效果的连贯的 3D 对象。
Oct, 2023
本文介绍了一种新颖的粗细生成框架 Paint3D,它能根据文本或图像输入,为未纹理化的 3D 网格生成高分辨率、无光照且多样化的 2K UV 纹理贴图。该方法通过利用预训练的深度感知 2D 扩散模型生成视图条件图像,并进行多视图纹理融合,得到初步的粗糙纹理贴图。然后,通过训练专门用于修复不完整区域和消除光照伪影的 UV 修复和 UVHD 扩散模型,解决了粗糙纹理贴图中的不完整区域和光照伪影问题。通过这一粗细过程,Paint3D 能够生成保持语义一致性且无光照的高质量 2K UV 纹理,从而显著推动了 3D 物体纹理制作的现状技术。
Dec, 2023