DreamCraft: 在 Minecraft 中基于文本指导生成具有功能的 3D 环境
GANcraft 是一种用于生成 Minecraft 等大型三维方块世界的逼真图像的非监督神经渲染框架,该方法采用语义块世界作为输入,并通过伪标签和对抗训练技术进行训练,不需要实际图像作为训练集,从而实现了视角一致的逼真图像渲染,以及用户对场景语义和样式的控制。
Apr, 2021
Text2NeRF 是一种基于 NeRF 模型以自然语言描述为输入的 3D 场景生成方法,利用预训练的文本到图像扩散模型和单目深度估计方法约束 NeRF 模型以保持内容和几何一致,同时使用逐步场景修复和更新策略保证场景视角一致性。实验结果表明该方法能够生成高保真度,多视角一致性和多样性的真实感 3D 场景。
May, 2023
本文提出了一种名为 Magic3D 的优化框架,利用低分辨率扩散先验和稀疏 3D 哈希格网结构,通过两阶段优化过程加速生成高质量 3D 网格模型,相对于 DreamFusion 优化用时减少一倍,同时也实现了更高分辨率的生成。用户调查表明,高达 61.7% 的用户更喜欢 Magic3D 模型。
Nov, 2022
利用文本驱动的 3D 场景生成技术,在构建 3D 场景时通过使用现有的生成模型进行图像变形和修复,同时结合查询和聚合全局 3D 信息来生成高质量的新内容,并在支持多种场景生成和任意相机路径的同时改善视觉效果和 3D 一致性。
Mar, 2024
Dream Fields 提出了一种结合神经渲染和多模态图像和文本表示的方法,能够通过自然语言描述合成各种几何形状和颜色的 3D 对象。
Dec, 2021
通过多视角草图引导的文本到 3D 生成框架,使用预训练的 2D 扩散模型对神经辐射场进行优化,以实现从草图到生成 3D 场景的灵活控制。
Jan, 2024
本文研究基于 Text-to-Image 散射模型精调的神经放射场的 3D 建模问题。研究表明一些局限性的存在是方法本身优化和统一时间步骤采样之间的矛盾所造成的。提出通过使用单调非递增函数优先采样时间步长来解决这个矛盾,从而获得更高质量和多样性的 3D 模型。
Jun, 2023
通过 DreamControl 的两阶段 2D-lifting 框架,实现了在 3D 生成中解决几何不一致性的 Janus 问题,并生成出几何一致性和纹理保真度都很高的高质量 3D 内容。
Dec, 2023
使用强化学习实现程序化内容生成(PCGRL),通过可计算、用户定义的质量度量训练智能体优化 3D 环境下针对 Minecraft 游戏的任务,生成多样化的游戏关卡,展示了 PCGRL 在 3D 环境下的应用和潜力。
Jun, 2022